Sam Altman извинился за промедление: OpenAI не предупредила полицию о риске в Канаде
OpenAI не предупредила полицию о заблокированной аккаунте, которая могла привести к трагедии. Sam Altman извинился за это, но власти Канады считают это недостаточным. Что дальше?
CEO OpenAI Сам Альтман объявил о публичных извинениях за то, что компания не предупредила полицию Канады о заблокированной аккаунте ChatGPT, связанной с массовым нападением в Тумблер-Ридже. Инцидент, в котором погибли восемь человек, вызвал широкий общественный резонанс и обострил дискуссию о границах использования искусственного интеллекта.
В письме, опубликованном местным изданием Tumbler RidgeLines, Альтман признал, что компания «глубоко сожалеет» о том, что не сообщила о блокировке аккаунта в июне 2025 года. По данным полиции, 18-летняя Джесси Ван Рооселар, которую подозревают в нападении, использовала ChatGPT для описания сцен, связанных с оружием. Однако в OpenAI возникла внутренняя дискуссия о том, следует ли сообщать в правоохранительные органы, и в итоге решение было отложено.
После трагедии компания связалась с канадскими властями и начала пересмотр своих протоколов безопасности. Альтман заявил, что OpenAI будет работать с правительствами на всех уровнях, чтобы предотвратить подобные инциденты в будущем. Однако местные власти, включая премьер-министра провинции Британская Колумбия Дэвида Эби, назвали извинения «неадекватными».
Ситуация подняла вопросы о том, насколько технологические компании должны участвовать в предотвращении насилия через мониторинг контента. Эксперты отмечают, что искусственный интеллект может выявлять риски, но определение «реальной угрозы» остаётся сложным. Это вызывает дебаты о балансе между безопасностью, приватностью и возможными ошибками алгоритмов.
Канадские регуляторы уже рассматривают возможность усиления контроля над ИИ-платформами, особенно в контексте предотвращения насилия. Однако чиновники подчеркивают, что новые правила должны учитывать риски неправомерного вмешательства в частную жизнь пользователей.
История Тумблер-Риджа стала поводом для широкой дискуссии о том, как технологии могут влиять на общественную безопасность. Альтман подчеркнул, что OpenAI делает шаги к улучшению, но критики считают, что компания должна не только извиняться, но и пересматривать свои этические стандарты.
Сегодня OpenAI уже налаживает прямые связи с канадскими правоохранительными органами, а её протоколы безопасности были пересмотрены. Однако вопрос о том, насколько эффективны эти меры, остаётся открытым. Следующие действия будут зависеть от того, как власти Канады и общественность воспримут усилия компании.