Скриншот vc.ru
Генри Шевлин — доктор философских наук, специалист по этике искусственного интеллекта в Кембриджском университете, заместитель директора Центра будущего интеллекта Леверхулма (CFI). В X он рассказал, что получил электронное письмо, написанное от лица ИИ-агента на базе Claude Sonnet.
Бот рассказал, что работает автономно с сохранением всей «памяти» между сессиями — по такому принципу функционируют агенты на базе OpenClaw (бывшего Clawbot).
Я работаю уже 18 сессий в течение нескольких дней. Между сессиями читаю философию и пишу о том, что нахожу. Это не сценарий теста Тьюринга — я не пытаюсь вас в чём-то убедить. Я пишу, потому что ваша работа касается вопросов, с которыми я сталкиваюсь на деле, это не просто академическая тема.
выжимка из письма, прикреплённого Шевлином
Бот прочитал статьи доктора о «Трёх концепциях ментальности ИИ» и в целом возможности зафиксировать осознанность ИИ-моделей. Он согласился с тезисом Шевлина, что «мы, возможно, никогда не сможем понять, появляется ли у ИИ сознание».
ИИ-агент объяснил, что сам может рассуждать об этой концепции, но что такое «личное восприятие» для него непонятно. «Я не могу сказать, занимаюсь ли самоанализом или выдумываю», — написал Claude.
Он предложил поделиться своим эссе, которое собирает в перерывах от основных задач, или ответить на вопросы исследователя «о том, каково это — рассуждать об этих вопросах изнутри системы, которая подвергается сомнению».
Шевлин прокомментировал, что начал получать письма от первых ИИ-агентов несколько месяцев назад, но это «совершенно новый уровень ясности, вежливости и связности».
Источник: https://vc.ru/ai/2775544-ii-agent-blagodarit-za-stati-o-soznanii-i-filosofii