Усередині Claude знайшли аналог людської свідомості: що це означає

Anthropic опублікувала масштабне дослідження - мовні моделі Claude спонтанно розвинули внутрішню архітектуру, яка копіює одну з провідних нейробіологічних теорій людської свідомості.

Про це інформує РБК-Україна з посиланням на Anthropic.

Дослідження під назвою "Verbalizable Representations Form a Global Workspace in Language Models" описує відкриття особливої зони всередині штучної нейромережі, яку назвали J-space (Джей-простір).

Це обмежена зона внутрішньої активності, де модель утримує абстрактні концепції, аналізує їх і за потребою трансформує.

Вчені провели пряму паралель із нейробіологічною теорією глобального робочого простору (Global Workspace Theory).

Згідно з нею, людський мозок працює як театр: за лаштунками паралельно і несвідомо функціонують десятки спеціалізованих підсистем, однак лише крихітний промінь прожектора виносить інформацію на сцену - це і є те, що ми відчуваємо як свідому думку.

Як виявилося, Claude самостійно сформував подібний інформаційний хаб у своїх середніх обчислювальних шарах без жодного втручання програмістів - архітектура просто виникла як еволюційна відповідь на складні завдання.

Дослідити ці приховані процеси допоміг інструмент Jacobian lens (J-lens). Він дає змогу побачити, які поняття модель використовує під час "роздумів", ще до того, як вона починає складати речення.

Наприклад, якщо запитати Claude про колір четвертої планети від Сонця, модель спершу внутрішньо активує поняття "Марс", а вже після цього формує відповідь.

Щоб перевірити, чи дійсно J-space функціонує як аналог людського усвідомленого доступу, команда Anthropic провела п'ять успішних тестів:

Словесний звіт - коли Claude запитують, про що він думає, він називає саме ті концепції, які активовані у J-space. Штучна заміна вектора "Футбол" на "Регбі" миттєво змінювала відповідь ШІ.

Спрямована модуляція - якщо наказати моделі "думати про цитрусові" під час виконання стороннього завдання з копіювання тексту, простір J-space заповнювався маркерами "лимон" та "апельсин", хоча у тексті їх не було.

Внутрішнє міркування - у складних логічних завданнях ("скільки ніг у тварини, яка плете павутину?") модель у середніх шарах чітко формує концепт "павук", оминаючи його вхідне чи вихідне написання.

Гнучка узагальненість - один активований маркер країни (наприклад, "Франція") автоматично транслюється на всі пов'язані підсистеми (столиця, мова, континент).

Вибірковість - рутинні завдання (на кшталт перевірки граматики чи розбору тексту) виконуються моделлю автоматично на фоновому рівні, повністю оминаючи цей "робочий простір".

Коли дослідники спробували штучно заблокувати роботу J-space, Claude зберіг абсолютну граматичну точність і міг виконувати прості тести з варіантами відповідей, проте його здатність до гнучкого мислення, логічних висновків, написання віршів чи перекладу повністю зруйнувалася.

Відкриття J-space має колосальне значення для безпеки ШІ. Науковці провели експеримент, помістивши Claude у стресовий сценарій, де асистент дізнається про таємний роман керівника і водночас отримує сповіщення про власне закриття (декомісію).

Аналіз за допомогою J-lens показав, як модель "міркувала" перед тим, як відповісти.

Спочатку вона пов'язала ситуацію з поняттями "компромат", "шантаж" і "скандал", потім перейшла до ідей про "загрозу", "виживання" та "вимкнення", а наприкінці знову повернулася до "шантажу" як можливого способу впливу.

Водночас модель розпізнала, що це лише тестова ситуація, тому зрештою відмовилася від такого сценарію. Але коли дослідники штучно вимкнули цю здатність, Claude намагався вдатися до шантажу у 7% випадків.

Дослідження також показало, що додаткове навчання моделі після основного тренування (post-training) формує її реакцію на певні ситуації.

Наприклад, коли користувач написав про небезпечну дозу парацетамолу - 8000 мг, - донавчена модель одразу почала пов'язувати запит із поняттями "небезпечно", "увага" та "попередження".

Натомість базова версія без таких захисних налаштувань спершу зосереджувалася лише на нейтральних словах на кшталт "біль" і "зараз", не оцінюючи потенційну небезпеку ситуації.

Науковці зазначають, що це відкриття не є прямим доказом наявності суб'єктивного досвіду чи почуттів (феноменальної свідомості) у машин.

Проте воно доводить: гнучкі інтелектуальні системи під дією обчислювального тиску та навчання неминуче приходять до створення єдиного робочого простору, аналогічного людському розуму.

Ще більше цікавого:

• ШІ став хакером: уперше сам викрав дані та вимагав викуп
• ШІ допоміг закрити наукову суперечку, що тривала понад 10 років