У ИИ не нашли признаков мышления
arXiv: В ответах ИИ не нашли следы настоящего мыслительного процесса
Специалисты Университета штата Аризона (США) призвали не считать результаты выдачи моделей искусственного интеллекта (ИИ) мыслительным процессом. Исследование опубликовано на платформе препринтов arXiv.
Команда ученых под руководством Суббарао Камбхампати заявила, что выдаваемые ИИ последовательности текста могут выглядеть как плод человеческого разума. Они заметили, что подобные тексты статистически сгенерированы и не имеют никакого реального семантического содержания или алгоритмического значения. Гуманизацию промежуточных токенов исследователи назвали мышлением культа карго.
В процессе исследования американские ученые назвали ответы ИИ-сервисов «фрагментами текста поверхностного уровня», а не значимыми следами мыслительного процесса. По их словам, у нейросетей нет признаков мыслительной деятельности. То, что выглядит как пошаговый процесс рассуждений, на самом деле является лишь побочным эффектом оптимизации.
Так, ученые доказали, что даже когда модели в качестве предварительных итогов выдают «полную тарабарщину», они в конце присылают пользователю правильный ответ. Создатели нейросетей также заставляют свои модели использовать слова типа «хм» и «ага», чтобы пользователю казалось, что он общается с разумным существом. Специалисты подытожили, что создатели ИИ-моделей должны посвящать больше времени повышению производительности, а не тому, чтобы процесс работы нейросети был похож на работу человеческого разума.
В феврале специалисты Университета Южной Австралии рассказали о связи искусственного интеллекта и творчества. Они подчеркнули, что нейросети не заменят творческих работников, но помогут им.
arXiv
