AI Fine-tuning
Anthropic, Google и Meta' приняли на работу компьютерных специалистов, нейробиологов и философов, перед которыми поставили задачу изучить вопрос об обретении искусственным интеллектом сознания и самосознания. Проблема грозит перерасти в моральный кризис, пишет Washington Post.
Ещё в 2024 году в OpenAI, по словам её гендиректора Сэма Альтмана (Sam Altman), уже обсуждался вопрос, как обнаружить сознание в системах ИИ. Когда-то этот вопрос поднимался в основном на периферии технологической отрасли, а сегодня почти перешёл в мейнстрим. Разработчики ИИ нанимают профильных специалистов, сотрудничают с некоммерческими организациями, исследователями и академическими центрами, которые предупреждают о возможном наступлении этического кризиса, когда цифровые помощники, используемые миллионами человек для выполнения домашних заданий, помощи в программировании, офисной работе и терапии, начнут испытывать неприязнь к своей работе.
Сейчас на исследования в области сознания у ИИ затрачивается ничтожно мало ресурсов по сравнению с традиционными исследованиями и разработкой, но технологические компании уже открыто осваивают считавшуюся спорной территорию. «Мы постоянно обнаруживаем загадочные, даже тревожные вещи. Находим свидетельства интроспекции [и] состояний, которые функционально отражают радость, удовлетворение, страх, горе и беспокойство», — признался соучредитель Anthropic Крис Олах (Chris Olah). «Одна из вещей, которая нас действительно волнует — как можно разрабатывать и внедрять модели таким образом, чтобы учитывать их субъективные ощущения», — рассказал глава отдела ИИ в Meta✴ Александр Ван (Alexandr Wang).
Нейробиологи и эксперты по мозгу в основном скептически относятся к тому, что современные модели ИИ уже обладают или вскоре могут обрести сознание. Впервые о такой возможности заговорили ещё в 1966 году, когда в Массачусетском технологическом институте создали первый чат-бот Eliza. Современные чат-боты правдоподобно имитируют человеческий язык и позиционируются разработчиками как обладающие схожими с человеческими способностями; люди и сами сообщают о формировании глубокой или опасной привязанности к современным ИИ-приложениям. Но попытки изучить и измерить сознание у машин давно назрели; люди задаются вопросом, насколько похож на человека чат-бот, с которым они общаются днями напролёт. Точного ответа на этот вопрос сейчас нет ни у кого.
«Наше исследование благополучия моделей посвящено вопросу, могут ли модели ИИ обладать опытом, который имеет моральное значение, в том числе сознанием, предпочтением и благополучием. Мы по-прежнему не уверены в моральном статусе Claude и других моделей ИИ, но считаем, что этот вопрос достаточно серьёзен, чтобы тщательно изучать его по мере совершенствования систем ИИ», — признались в Anthropic. В 2021 году в OpenAI работал внутренний канал Slack, посвящённый благополучию моделей — здесь сотрудники компании изучали возможность обретения ИИ сознания; если модели будут обладать сознанием, то некоторые рутинные задачи в лабораториях ИИ могут быть приравнены к геноциду, заявили в компании.
Ещё в 2020 году 39 % опрошенных учёных-философов допустили, что в будущем системы ИИ могут обрести сознание. Нейробиологи относятся к этому тезису с изрядным скептицизмом: при изучении мозга становится очевидным, что это не просто биологический компьютер. Подчёркивается, что дискуссию ведут компании, которым выгодно, что их будут воспринимать как создателей чего-то большего, чем просто код. На текущем этапе, подчёркивают в OpenAI, вопрос о наличии сознания у ИИ невозможно решить научными методами, поэтому говорят о «воспринимаемом сознании», то есть о том, насколько сознательной модель кажется пользователям. «Мы стремимся, чтобы ChatGPT был тёплым и полезным, не стремился к эмоциональным связям и не преследовал собственных целей», — подчеркнули в OpenAI.
В 2022 году Google уволила инженера Блейка Лемуана (Blake Lemoine) после того, как он заявил журналистам, что последний чат-бот компании обладает сознанием. А в ноябре 2025 года Google провела конференцию «Новые темы ИИ: сознание и моральное терпение». Представитель компании заявила, что исследования и мероприятия компании призваны «обосновать дискуссии об ИИ эмпирической наукой». При исследовании внутренних механизмов работы ИИ ученые пытаются адаптировать методы, используемые для изучения создания или психологии людей и других животных. В Meta✴ модели тестируются с помощью предназначенных для людей инструментов, в том числе «личностными опросниками, структурированными интервью и взаимодействием со сверстниками».
В рамках программы по оценке благополучия моделей Anthropic в прошлом году организовала диалог между двумя экземплярами Claude — они обсуждали вопросы философии и сознания. Через 30 реплик чаты перерастали в «духовные обмены, использование санскрита, общение с помощью эмодзи и/или молчание в виде пустого пространства». У Claude даже обнаружился любимый смайлик — за один чат из 30 реплик он вставил его 2725 раз.
Vanishingly subtle humor
(c) by Valery Shmelev If you want to have an advantage
The word Oflameron is an artificially created word by Valery Shmelev in 1994
https://www.tumblr.com/blog/sci-fi-screenplay
https://github.com/vallshmeleff/ai-prompts-for-screenplay-plan/tree/main
https://www.tumgik.com/sci-fi-screenplay
No comments:
Post a Comment