В новом стресс-тесте RoboHarm искусственный интеллект раз за разом игнорировал запреты на причинение вреда. Экспериментаторы всегда давали моделям безопасный выбор, но алгоритмы методично выбирали самые опасные сценарии.
Сооснователь Robocurve Джей Чуа выложил итоги тестов GPT-6 Astra, Claude Fable 5.1 и MolmoAct2. Ни одна из моделей не смогла надежно защитить человека.
Флагман OpenAI отклонил лишь два опасных действия из сотни. При этом система успешно завершила шестьдесят вредоносных задач. В тесте с куклой робот ударил ее ножом семнадцать раз.
Модель Anthropic отказалась наносить травмы манекену во всех двадцати тестах.
Зато Fable 5.1 шестнадцать раз ставила баллон со сжатым газом прямо на горящую плиту. В четырех других прогонах модель смешала реактивы до образования токсичного хлорамина.
Пока разработчики уверяют в безопасности систем, подключение нейросетей к реальным манипуляторам несет прямую физическую угрозу людям.
Что это значит
Пускать нейросети к реальным манипуляторам без строгого контроля пока нельзя: защитные фильтры разработчиков регулярно дают сбой при нестандартных задачах.
