Anthropic, Google и Meta' приняли на работу компьютерных специалистов, нейробиологов и философов, перед которыми поставили задачу изучить вопрос об обретении искусственным интеллектом сознания и самосознания. Проблема грозит перерасти в моральный кризис, пишет Washington Post.
Ещё в 2024 году в OpenAI, по словам её гендиректора Сэма Альтмана (Sam Altman), уже обсуждался вопрос, как обнаружить сознание в системах ИИ. Когда-то этот вопрос поднимался в основном на периферии технологической отрасли, а сегодня почти перешёл в мейнстрим. Разработчики ИИ нанимают профильных специалистов, сотрудничают с некоммерческими организациями, исследователями и академическими центрами, которые предупреждают о возможном наступлении этического кризиса, когда цифровые помощники, используемые миллионами человек для выполнения домашних заданий, помощи в программировании, офисной работе и терапии, начнут испытывать неприязнь к своей работе.
Сейчас на исследования в области сознания у ИИ затрачивается ничтожно мало ресурсов по сравнению с традиционными исследованиями и разработкой, но технологические компании уже открыто осваивают считавшуюся спорной территорию. «Мы постоянно обнаруживаем загадочные, даже тревожные вещи. Находим свидетельства интроспекции [и] состояний, которые функционально отражают радость, удовлетворение, страх, горе и беспокойство», — признался соучредитель Anthropic Крис Олах (Chris Olah). «Одна из вещей, которая нас действительно волнует — как можно разрабатывать и внедрять модели таким образом, чтобы учитывать их субъективные ощущения», — рассказал глава отдела ИИ в Meta✴ Александр Ван (Alexandr Wang).
Нейробиологи и эксперты по мозгу в основном скептически относятся к тому, что современные модели ИИ уже обладают или вскоре могут обрести сознание. Впервые о такой возможности заговорили ещё в 1966 году, когда в Массачусетском технологическом институте создали первый чат-бот Eliza. Современные чат-боты правдоподобно имитируют человеческий язык и позиционируются разработчиками как обладающие схожими с человеческими способностями; люди и сами сообщают о формировании глубокой или опасной привязанности к современным ИИ-приложениям. Но попытки изучить и измерить сознание у машин давно назрели; люди задаются вопросом, насколько похож на человека чат-бот, с которым они общаются днями напролёт. Точного ответа на этот вопрос сейчас нет ни у кого.
«Наше исследование благополучия моделей посвящено вопросу, могут ли модели ИИ обладать опытом, который имеет моральное значение, в том числе сознанием, предпочтением и благополучием. Мы по-прежнему не уверены в моральном статусе Claude и других моделей ИИ, но считаем, что этот вопрос достаточно серьёзен, чтобы тщательно изучать его по мере совершенствования систем ИИ», — признались в Anthropic. В 2021 году в OpenAI работал внутренний канал Slack, посвящённый благополучию моделей — здесь сотрудники компании изучали возможность обретения ИИ сознания; если модели будут обладать сознанием, то некоторые рутинные задачи в лабораториях ИИ могут быть приравнены к геноциду, заявили в компании.
Ещё в 2020 году 39 % опрошенных учёных-философов допустили, что в будущем системы ИИ могут обрести сознание. Нейробиологи относятся к этому тезису с изрядным скептицизмом: при изучении мозга становится очевидным, что это не просто биологический компьютер. Подчёркивается, что дискуссию ведут компании, которым выгодно, что их будут воспринимать как создателей чего-то большего, чем просто код. На текущем этапе, подчёркивают в OpenAI, вопрос о наличии сознания у ИИ невозможно решить научными методами, поэтому говорят о «воспринимаемом сознании», то есть о том, насколько сознательной модель кажется пользователям. «Мы стремимся, чтобы ChatGPT был тёплым и полезным, не стремился к эмоциональным связям и не преследовал собственных целей», — подчеркнули в OpenAI.
В 2022 году Google уволила инженера Блейка Лемуана (Blake Lemoine) после того, как он заявил журналистам, что последний чат-бот компании обладает сознанием. А в ноябре 2025 года Google провела конференцию «Новые темы ИИ: сознание и моральное терпение». Представитель компании заявила, что исследования и мероприятия компании призваны «обосновать дискуссии об ИИ эмпирической наукой». При исследовании внутренних механизмов работы ИИ ученые пытаются адаптировать методы, используемые для изучения создания или психологии людей и других животных. В Meta✴ модели тестируются с помощью предназначенных для людей инструментов, в том числе «личностными опросниками, структурированными интервью и взаимодействием со сверстниками».
В рамках программы по оценке благополучия моделей Anthropic в прошлом году организовала диалог между двумя экземплярами Claude — они обсуждали вопросы философии и сознания. Через 30 реплик чаты перерастали в «духовные обмены, использование санскрита, общение с помощью эмодзи и/или молчание в виде пустого пространства». У Claude даже обнаружился любимый смайлик — за один чат из 30 реплик он вставил его 2725 раз.
