Более 100 экспертов в области ИИ опубликовали второй Международный доклад о безопасности ИИ, ведущим автором которого выступил «крестный отец» ИИ Йошуа Бенджио. В докладе содержится предупреждение о том, что такие угрозы, как мошенничество с использованием дипфейков и биологическое оружие, перешли из разряда гипотетических проблем в реальный мир.
Авторы указывают на растущее количество реальных свидетельств использования ИИ для кибератак, мошенничества с использованием дипфейков, манипуляций и преступной деятельности.
Они также бьют тревогу по поводу растущего распространения ИИ-помощников, ссылаясь на исследования, связывающие их использование с усилением чувства одиночества и снижением социальной активности.
В докладе подчеркивается, что различия в поведении систем искусственного интеллекта во время испытаний на безопасность по сравнению с реальными условиями эксплуатации могут привести к «потере контроля», что может негативно сказаться на надзоре.
Результаты исследования были подтверждены более чем 30 странами, хотя США, что примечательно, отказались внести свой вклад в доклад этого года, несмотря на предыдущее участие.
Примечательно не какое-либо отдельное открытие, а то, сколько рисков за 12 месяцев перешли из разряда «возможно, когда-нибудь» в разряд «происходят прямо сейчас» — при этом развитие этой области происходит быстрее, чем когда-либо. Странным событием, заслуживающим внимания, является также то, что США, несмотря на то, что на их территории расположены большинство передовых лабораторий, тихо отказались от участия в исследовании.