Канадское правительство выразило готовность регулировать чат-боты на основе искусственного интеллекта, если технологические компании не смогут продемонстрировать адекватные меры защиты канадских пользователей.
Это предупреждение прозвучало от министра по искусственному интеллекту Эвана Соломона. Он заявил, что, по его утверждению, «бездействие» компании OpenAI привело к тому, что не был своевременно доложен 18-летний канадский пользователь, впоследствии устроивший массовую стрельбу в школе в Британской Колумбии, Канада.
Согласно источникам, знакомым с делом, в июне прошлого года Джесси Ван Рутселаар в течение нескольких дней описывал сценарии вооруженного насилия, используя ChatGPT. Его публикации были отмечены автоматизированной системой проверки, что вызвало обеспокоенность среди сотрудников OpenAI. Около дюжины сотрудников компании обсуждали необходимость принятия мер в связи с сообщениями Ван Рутселаара. Некоторые интерпретировали его тексты как возможное указание на реальное физическое насилие и призывали руководство уведомить канадские власти. Однако руководство OpenAI в итоге решило не обращаться в правоохранительные органы.
«Очевидно, произошел провал. Это ужасная трагедия. Мы глубоко потрясены сообщениями о том, что была возможность сообщить об этом деле правоохранительным органам. Мы хотим быть уверенными, что любая компания, имеющая такую возможность, воспользуется ею», — заявил Соломон.
Чан Парк, руководитель по политике OpenAI, и еще шесть представителей компании встретились с представителями правительства в Оттаве во вторник. Министры позже назвали эту встречу «разочаровывающей».
Министр юстиции Шон Фрейзер заявил, что ожидает от OpenAI принятия существенных мер безопасности. «Если эти меры не будут предприняты в очень короткие сроки, правительство примет действия», — сказал он. «Доверие нужно заслужить. Мы действительно должны увидеть, какие изменения будут предприняты компанией».
OpenAI сообщила, что усилила свои меры безопасности и изменила политику в отношении того, когда следует уведомлять полицию о случаях, связанных с актами насилия.
«В то же время министры подчеркнули, что канадцы ожидают дальнейших конкретных шагов — и это сообщение было нами ясно и недвусмысленно понято. Мы обязались предоставить информацию о дальнейших мерах в ближайшие дни, продолжая поддерживать правоохранительные органы и сотрудничать с правительством для повышения безопасности искусственного интеллекта».
10 февраля 18-летний Джесси Ван Рутселаар открыл огонь в школе в городе Тамблер-Ридж, Британская Колумбия, убив восемь человек. Полиция сообщила, что Джесси Ван Рутселаар был найден мертвым на месте происшествия; он покончил с собой. Ван Рутселаар был известен местной полиции еще до стрельбы. Власти несколько раз посещали его по месту жительства в связи с проблемами психического здоровья и временно изымали оружие из его жилища.