Искусственный интеллект может приносить не только пользу, но и серьезный вред. Новый доклад о продвинутой безопасности искусственного интеллекта (ИИ) предупреждает о возможных рисках и преимуществах этой технологии.

Первый крупный научный отчет подчеркивает, что ИИ общего назначения может значительно способствовать благосостоянию и научному прогрессу, но также несет в себе угрозы, такие как распространение дезинформации, мошенничество, нарушение рабочих мест и усиление неравенства.

Доклад представляет собой Международный научный отчет о продвинутой безопасности ИИ, который был анонсирован на саммите по безопасности ИИ в Блетчли-Парке в ноябре. В его подготовке участвовали эксперты из 30 стран, включая Великобританию, США, Китай, а также представители ООН и ЕС.

Несмотря на признание потенциала ИИ, в докладе подчеркивается отсутствие единого мнения среди экспертов по ряду ключевых вопросов. Среди них - текущие возможности ИИ, его будущее развитие и вероятность возникновения экстремальных рисков, таких как потеря контроля над технологией.

Промежуточный отчет был составлен независимыми экспертами, назначенными 30 странами, представителями ЕС и ООН, присутствовавшими на саммите. Отчет пока не включает существенного вклада от технологических компаний и разработчиков ИИ.

Доклад выделяет три основные категории рисков, связанных с ИИ:

Злонамеренное использование: Крупномасштабное мошенничество, дипфейки, дезинформация, кибератаки и разработка биологического оружия.

Риски сбоев: Опасения по поводу предвзятости в системах ИИ и возможной потери контроля над автономными системами.

Системные риски: Влияние на рынок труда, неравномерное распределение технологий между Западом и Китаем, риски для конфиденциальности и воздействия на законы об авторском праве и климат.

Доклад также акцентирует внимание на том, что будущее ИИ общего назначения остается неопределенным, с возможными как очень положительными, так и крайне отрицательными исходами. Однако в технологии ИИ нет ничего неизбежного, что подчеркивает необходимость дальнейших исследований и обсуждений.