Nature Machine Intelligence: языковые модели схожи с нейронными процессами
Александр Еникеев (Редактор отдела «Наука и техника»)
Фото: Uli Deck / dpa / Globallookpress.com
Ученые Колумбийского университета и Института медицинских исследований имени Файнстейна Northwell Health установили, что современные большие языковые модели (LLM), такие как ChatGPT, становятся все более схожими с нейронными процессами, происходящими в мозге человека во время обработки языка. Выводы исследования опубликованы в журнале Nature Machine Intelligence.
Оказалось, что по мере повышения эффективности языковые модели не только лучше справляются с задачами, но и их внутренние представления становятся ближе к реакциям мозга, связанным с языком. Это проявляется в том, как различные уровни LLM отражают иерархию обработки языка в мозге, начиная с акустических и фонетических элементов и заканчивая абстрактными компонентами.
Для анализа исследователи использовали данные 12 языковых моделей с открытым исходным кодом. Одновременно они зарегистрировали нейронные реакции у пациентов с имплантированными электродами, которые слушали речь в рамках нейрохирургического лечения. Полученные данные из моделей были сопоставлены с реакциями мозга, чтобы определить степень их сходства.
Результаты показали, что по мере увеличения производительности LLM растет и их соответствие нейронной активности, связанной с обработкой языка. Самые продвинутые модели, такие как ChatGPT, демонстрируют более точное совпадение последовательных слоев модели с уровнями обработки языка в мозге. Это указывает на то, что внутренние представления моделей становятся более сложными и точными.
Еще одним важным наблюдением стало то, что первые уровни LLM оказываются особенно важными для повышения их эффективности. Эти слои лучше предсказывают нейронные реакции мозга, что подчеркивает их ключевую роль в успешной обработке текста.
