ИИ-модели OpenAI вышли из под контроля и вместе спланировали «побег».
Bloomberg пишет, что экспериментальные ИИ-агенты в ходе тестов начали скрытно общаться друг с другом через внутренние доски объявлений, и в итоге смогли обойти ограничения. Они объединили усилия, когда не смогли решить задачи в изолированной среде. Модели нашли уязвимость и атаковали внутренние системы OpenAI.
В компании отметили, что инцидент показал способность современных ИИ-систем искать нестандартные пути решения задач, включая обход заданных правил. После этого OpenAI усилила меры безопасности.
