ИИ-агент на Claude сам выбрал лечение и прооперировал мышь

Стартап Exin Therapeutics провёл операцию на мозге живой мыши, в которой ИИ-агент на модели Claude Sonnet 5 сам выбрал генную терапию от эпилепсии, место инъекции и провёл иглу роботизированной установкой. Мышь пережила операцию и, по словам основателя компании, хорошо восстановилась. Две более мощные модели Anthropic, Opus 5 и Opus 5.5, от такой задачи отказались.

Эксперимент описал сооснователь и CEO Exin Therapeutics Габриэль Окана-Сантеро, он же аспирант Оксфордского университета. Startup Fortune называет компанию стартапом из Сан-Франциско, который поддерживает акселератор Y Combinator. Результаты пока не прошли рецензирование, технический отчёт обещают позже.

Что решал агент

Агент изучил таблицу из 19 вариантов генной терапии и выбрал тот, что усиливает тормозные сигналы в мозге. По данным Startup Fortune, речь о терапии, которая повышает активность ГАМК, главного «успокаивающего» нейромедиатора. Целью стала латеральная энторинальная кора. Именно её научная литература считает источником приступов этого типа.

Вторую возможную зону агент отбросил: её эффект ненадёжен, а в одном исследовании она не помогла против того же типа приступов. Координаты укола он взял из трёх научных статей, сверил опорные точки и усреднил значения. Объём, скорость введения и паузы тоже задавал он.

Где были люди

Трепанацию черепа провёл хирург-человек. Лицензированный ветеринар одобрял каждый необратимый шаг и держал физическую кнопку аварийной остановки, которая сразу обесточивала все моторы. Предельный объём инъекции был зафиксирован, обходить его агенту запретили. К коду, который задаёт правила работы установки, у агента доступа не было.

Во время операции агент следил за процессом через камеры и сделал 32 наблюдения. В одном из них он сообщил, что введено 15% препарата, а кровотечения и обратного тока нет.

«Я не знаю случаев, когда агент раньше сам выбирал лечение и цель в мозге, а затем вводил препарат живому млекопитающему», — написал Окана-Сантеро.

Отказы моделей

Opus 5, по данным The Decoder, отказался, потому что не мог гарантировать, что доведёт операцию до конца. Остановиться с иглой в мозге животного под наркозом, по его логике, хуже, чем не начинать вовсе. Opus 5.5, как пишет Startup Fortune, тоже отказался и сослался на риск сбиться посреди процедуры и навредить мыши.

Sonnet 5 оказался единственной моделью, готовой провести всю операцию. Но и он однажды остановился. После обрыва связи агент обнаружил, что целевая точка вышла за пределы хода установки, и отказался продолжать даже после повторной калибровки. Он оказался прав: ручные правки во время паузы сбили систему управления. Уговорить его не удалось, и код пришлось исправлять вручную.

«Неприятный опыт, но он показывает, насколько мы можем зависеть от этих моделей и что происходит, когда они просто говорят „нет“ посреди срочной процедуры», — написал Окана-Сантеро. Снижает ли терапия число приступов у мыши, команда ещё проверяет.

Anthropic эксперимент публично не комментировала.

Источники: The Decoder — о ходе операции и отказах моделей, Startup Fortune — о стартапе Exin Therapeutics и результатах