АІ-модели только имитируют мышление: исследование Apple

Исследование, проведенное учеными Apple, показало, что большие языковые модели, такие как ChatGPT, демонстрируют ограничения в способности к логическому мышлению, особенно при добавлении несущественных деталей к математическим задачам.

Хотя такие модели успешно решают простые математические задачи, их легко сбить с толку, добавив лишнюю информацию, не имеющую отношения к решению. Например, модель может легко посчитать количество киви, собранных Оливером, в стандартной задаче. Однако, если добавить деталь, что несколько киви были меньше среднего размера, ИИ ошибочно включает эту информацию в свой расчет, вычитая киви, хотя это не нужно.

Авторы исследования, в частности Мехрдад Фараджтабар, подчеркивают, что такое поведение демонстрирует неспособность ИИ к настоящему логическому мышлению. Модели следуют шаблонам, заложенным в их данные, и не умеют корректно адаптироваться к новым аспектам задач.

Несмотря на попытки решить эти проблемы с помощью техники оптимизации запросов (prompt engineering), исследователи пришли к выводу, что для более сложных условий требуется слишком много контекста. Это открывает важный вопрос о том, способен ли ИИ достичь уровня настоящего мышления и логического анализа.