Маск назвал искусственный интеллект потенциально самым насущным экзистенциальным риском

Илон Маск

Искусственный интеллект представляет потенциально самую насущную угрозу для современного мира, заявил миллиардер Илон Маск во время саммита AI Safety в Лондоне, пишет со ссылкой на “Голос Америки”.

“Мы впервые в истории человечества имеем что-то, что будет намного умнее нас. Поэтому мне непонятно, (как) можно контролировать такую вещь, но я думаю, что мы можем стремиться направлять это в направлении, от которого выиграет человечество. Но я считаю, что это один из экзистенциальных рисков, с которыми мы сталкиваемся, потенциально самый насущный”, – сказал Маск на форуме, посвященном безопасности ИИ.

Маск, руководитель компаний SpaceX, Tesla и соцсети X, заявил, что во время саммита в Лондоне участники стремятся создать “стороннего арбитра”, который мог бы контролировать компании, разрабатывающие искусственный интеллект, и бить тревогу, если существуют беспокойства.

Вице-президент США Камала Харрис, которая также участвует в саммите, призвала к срочным действиям, чтобы защитить общественность и демократию от опасностей ИИ, включая предвзятость, дискриминацию и распространение дезинформации. “Когда люди во всем мире не могут отличить факты от вымысла из-за потока мифов и дезинформации с поддержкой искусственного интеллекта, я спрашиваю, не экзистенциально ли это для демократии”, – сказала она.

Отношения между Китаем и Западом сложны во многих сферах, но вице-министр страны Ву Чжаохуэй сказал на конференции, что он стремится к духу открытости в ИИ: “Мы призываем к глобальному сотрудничеству, чтобы обмениваться знаниями и делать технологии ИИ доступными для общественности”.

Несмотря на предостережения об опасности технологии в частности со стороны Илона Маска, многие эксперты говорят, что эти беспокойства преувеличены. Как пишет BBC, многие наблюдатели считают, что самая большая угроза искусственного интеллекта заключается в автоматизации рабочих мест людей или встраивании существующих предубеждений в новые, гораздо более мощные онлайн-системы.

Ник Клегг, президент по глобальным вопросам Meta и бывший вице-премьер-министр Великобритании, который также участвует в саммите, сказал, что люди не должны позволять “спекулятивным, иногда несколько футуристическим прогнозам” вытеснить более насущные проблемы.

Двухдневный британский саммит по искусственному интеллекту собрал глав государств и технологических гигантов на фоне беспокойства, что новая технология может представлять опасность для человечества. Встреча будет сосредоточена на разработке стратегии глобальных скоординированных усилий для устранения рисков и неправильного использования инструментов ИИ.

Как сообщает британское правительство, на саммите обсуждают 5 направлений: общее понимание рисков ИИ, продвижение международного сотрудничества по вопросам безопасности AI, определение действий отдельных организаций для повышения безопасности в отрасли, оценка направлений и стандартов для управления отраслью, демонстрирование того, как безопасная разработка искусственного интеллекта позволит использовать технологию на благо человечества.

Участие в форуме принимают руководители ведущих технологий и AI компании, в частности Anthropic, Google DeepMind, IBM, Meta, Microsoft, Nvidia, OpenAI и Tencent.

28 стран, представители которых участвуют в событии, подписали Декларацию Блетчли, где они согласились, что существует настоятельная необходимость понимать потенциальные риски ИИ и совместно управлять ими. Среди этих государств, кроме Британии и государств ЕС: США, Китай, Израиль, Корея, Индия, Индонезия, Украина.

“Существует потенциал для серьезного, даже катастрофического, вреда, преднамеренного или непреднамеренного, вытекающего из важнейших возможностей этих моделей ИИ, – говорится в документе. – Многие риски, связанные с искусственным интеллектом, по своей природе являются международными, поэтому их лучше всего решать путем международного сотрудничества”.

Следующий такой саммит будет проведен виртуально в Корее через полгода, а через год делегаты снова соберутся для личного обсуждения во Франции.

По материалам: УНН