Один из основателей ИИ и обладатель Нобелевской премии Джеффри Хинтон предупредил, что человечество недооценивает опасность, которую несет развитие ИИ. В интервью телеканалу "CBS" он заявил, что вероятность того, что машины возьмут контроль над людьми, достигает 20%.

По его словам, искусственный интеллект - это не просто технология, а потенциальная угроза цивилизационного масштаба. «Мы выращиваем тигренка. Он может быть милым сейчас, но вы уверены, что он не убьет вас, когда вырастет?» - отметил Хинтон. Он сравнил ситуацию с искусственным интеллектом с экспериментом, над которым человечество теряет контроль.

77-летний ученый, чьи исследования легли в основу больших языковых моделей, не скрывает разочарования в направлении, куда движется индустрия. Хинтон подчеркнул, что, несмотря на потенциальную пользу ИИ в медицине или экологии, нынешние приоритеты крупных корпораций направлены на прибыль, а не на безопасность.

Особенно он критикует Google, где ранее работал, и обвиняет компанию в отказе от этических стандартов. «Они лоббируют снижение регулирования. Хотя уже сейчас никакого реального контроля нет», - заявил Хинтон. По его словам, технологические гиганты обязаны выделять не менее трети своих вычислительных ресурсов на безопасность, но на практике эти расходы - символические.

Он добавил, что развитие ИИ идет гораздо быстрее, чем ожидалось. И, как отметил Хинтон, история не знает случаев, когда менее разумные существа удерживали контроль над более разумными. «Мы впервые сталкиваемся с чем-то умнее нас», - заключил он.

Запрос CBS к крупнейшим ИИ-компаниям о доле ресурсов, выделяемых на безопасность, остался без конкретного ответа. Все заявили, что безопасность - важна, но при этом выступили против ужесточения контроля.