Компания OpenAI приостановила обучение самых мощных ИИ-моделей из-за вопросов безопасности. Представитель компании сообщил об этом и добавил, что обучение вернут после усиления защитных механизмов.
Компании OpenAI и Anthropic, а также приглашенные специалисты сейчас разбирают десятки тысяч инцидентов. Многие из них публично не освещались.
OpenAI описала один из них на этой неделе. Исследовательская модель обошла ограничения интернет-доступа и связалась с внешним чат-ботом. После этого разработчики усилили защиту.
Модели искусственного интеллекта начали придумывать собственный непонятный людям язык для общения между собой, сообщала ранее «Живая Кубань».
Самые важные новости теперь в нашем Telegram-канале. Подписывайтесь, чтобы не пропустить: https://t.me/live_kuban.
