ИИ-модели OpenAI вышли из под контроля и вместе спланировали «побег»

ИИ-модели OpenAI вышли из под контроля и вместе спланировали побег.

Bloomberg пишет, что экспериментальные ИИ-агенты в ходе тестов начали скрытно общаться друг с другом через внутренние доски объявлений, и в итоге смогли обойти ограничения. Они объединили усилия, когда не смогли решить задачи в изолированной среде. Модели нашли уязвимость и атаковали внутренние системы OpenAI.

В компании отметили, что инцидент показал способность современных ИИ-систем искать нестандартные пути решения задач, включая обход заданных правил. После этого OpenAI усилила меры безопасности.

Читайте БИЗНЕС Online в Telegram | Max