Одним из основных, камнем преткновения, является отсутствие практического формального языка для записи математических предложений и доказательств. Этот язык должен быть близким к естественному языку математики и фактически представлять собой формализацию той части естественного языка, на котором пишутся книги по математике. Реализацией языка математики является "алгоритм очевидности", который проверяет правильность математических утверждений, написанных в языке, если доказательства достаточно подробны, или находит в них пробелы, требующие расшифровки.
Один из отцов аналитической философии Людвиг Витгенштейн считал, что все доступные нам законы мышления и реальности запечатаны в логике языка. Никакой другой логики у мысли нет, мышление целиком совпадает со структурами языка. Язык выполняет две функции: обмен информацией между индивидуумами и создание моделей действительности.
Отсюда и вырастают остальные нерешимые, на сегодняшний день, проблемы моделирования искусственного интеллекта.
Главным отличием человеческого мозга от искусственного интеллекта является гибкость мышления (ассоциативное мышление, воображение) и интуитивное восприятие. Даже маленький ребенок может отличить кошку от собаки, но для того, чтобы это смогла сделать машина нужен очень сложный алгоритм, который требуется в каждой ситуации, где требуется принимать решение. То есть машина не обладает возможностью невербального восприятия (эмоции, чувства). Проще говоря творческого мышления, которое можно разделить на три этапа: сознательная активизация накопленных знаний, интуитивный скачок к новому пониманию и логическая оценка его справедливости. Это хорошо отражено в проблеме понимания текста, машиной.
У человека, читающего незнакомый текст, гипотеза о целостном смысле всего текста появляется уже на первом шаге знакомства с его первым фрагментом (А). Затем эта гипотеза переопределяется чтением второго фрагмента (В). Однако прочитанный вторым фрагмент (В) был осознан уже с учетом наличия гипотезы (А) и теперь ее надо заново переопределить, понять с учетом фрагмента (В), но и второй фрагмент после нового понимания первого тоже должен будет измениться. А определяет В, но сам, в свою очередь, определяется через А. И так по всем фрагментам текста. Определяемое становится определяющим — взаимное определение.
Для логик, лежащих в основе программных систем, это ситуация означает бесконечный цикл, логический круг, который принципиально недопустим. Однако, в человеческом мышлении — это основа основ. Обычно привлекательное для программирования решение таких проблем — обратная связь, не помогает, так как не в состоянии смоделировать этот особый механизм мышления. И причина в том, что все параметры этой связи, критерии остановки циклов задает опять же человек извне системы. То есть для искусственного интеллекта необходимы самые основные действия, которые может выполнить только естественный интеллект.
Точно так же машина сегодня не может работать с противоречиями. Так, чтобы одновременно было и А и не-А, чтобы нарушался закон запрещения противоречий (ЗЗП).
Один из мыслителей, оказавший значительное влияние на развитие современной математики, Николай Кузанский, живший в XV веке, занимался предельными переходами и довольно просто доказал, что отрезок и окружность тождественны при переходе в бесконечность — отрезок становится бесконечной прямой, а окружность бесконечного радиуса приобретает минимальную кривизну и сливается с этой прямой. Но ведь окружность — это замкнутая кривая, а линия — разомкнута. Либо одно, либо другое — соблюдается ЗЗП в математике! А предельный переход прямо приводит к тому, что замкнутое и разомкнутое — это одно и то же. Причем ладно бы, если бы совпали какие-то несущественные признаки, а то ведь самые важные, качественно определяющие взятые объекты!