OpenAI та Anthropic погодилися передавати свої моделі штучного інтелекту, як до, так і після їхнього випуску, Інституту безпеки ШІ США. Цей інститут був створений на підставі виконавчого указу президента Джо Байдена у 2023 році. Інститут надаватиме зворотний зв'язок щодо безпеки, щоб допомогти компаніям удосконалити їхні моделі. Генеральний директор OpenAI Сем Альтман натякнув на цю угоду раніше цього місяця.

Google також залучена до обговорень з цією агенцією. Як повідомив речник Google, компанія наразі веде переговори з Інститутом безпеки ШІ та обіцяє надати більше інформації, коли вона стане доступною. Цього тижня Google почала впроваджувати оновлені моделі чат-ботів і генераторів зображень для Gemini.

«Безпека є ключовою для стимулювання проривних технологічних інновацій. Завдяки цим угодам ми з нетерпінням чекаємо на початок технічної співпраці з Anthropic і OpenAI, щоб розвивати науку про безпеку ШІ», – зазначила директор Інституту безпеки ШІ США Елізабет Келлі. «Ці угоди – лише початок, але вони є важливим етапом у нашій роботі з відповідального управління майбутнім ШІ».