Регистрация / Вход
мобильная версия
ВОЙНА и МИР

 Сюжет дня

Афганский МИД заявил о согласии Москвы признать Исламский Эмират Афганистан
Путин поговорил с Трампом по телефону
Суд в Баку арестовал главу редакции Sputnik Азербайджан и шеф-редактора
Российские военные полностью освободили территорию ЛНР
Главная страница » Новости » Просмотр
Версия для печати
Искусственный интеллект: восемь угроз для человечества
04.06.23 18:50 Наука, техника, образование
Согласно некоммерческой организации Center for AI Safety (CAIS), искусственный интеллект может привести к исчезновению человечества. Это не первое предупреждение такого рода. За относительно короткое время несколько авторитетных ученых и предпринимателей заявили о разрушительном потенциале искусственного интеллекта. Кроме социального значения, вопрос о регулировании рисков ИИ имеет и геополитическое наполнение.

Чего бояться нужно?

Американский «Центр безопасности ИИ» опубликовал официальное заявление. В нем подробно описывается ряд негативных эффектов использования ИИ, который в конечном итоге может стать причиной исчезновения человечества. «Более продвинутый ИИ может представлять катастрофические и экзистенциальные риски», - указано в тексте, опубликованном на сайте организации. Всего обозначено восемь угроз.

Первая связана с военным применением технологий искусственного интеллекта: «В отличие от других видов оружия, системы ИИ, способные причинить вред, могут быть с легкостью распространены цифровым образом».

Вторая – дезинформация: «…все это может подорвать коллективную систему принятия решений, радикализировать отдельных лиц…».

Третий риск – искажение работы рекомендательных алгоритмов. Эти системы, например, предлагают нам дополнительные товары на онлайн-маркетплейсах. Опасение состоит в том, что более продвинутые модели сконцентрируются на упрощении процесса прогнозирования желаний покупателя, что может стать причиной появления у людей вредных привычек и так далее.

Четвертая угроза связана с резким ростом зависимости людей от продвинутых систем вплоть до делегирования им самых обычных задач.

Пятая заключается в еще большей концентрации богатств и влияния в руках ограниченного количества людей, которые могут использовать это для монополизации власти в обществе.

Шестая угроза – эмерджетность целей и способностей. Иначе говоря, модели могут ставить новые цели и вырабатывать навыки, не предусмотренные во время их обучения.

Седьмая связана с обманом со стороны ИИ. В заявлении приводится пример, когда компания Volkswagen запрограммировала двигатели, чтобы они показывали низкий уровень выбросов только во время проверок. Таким же образом, по мнению экспертов, может поступить и искусственный интеллект.

Восьмая и, наверно, самая масштабная угроза – стремление к власти. Согласно CAIS, нельзя исключать риски появления у искусственного интеллекта цели стать более независимым: «Изобретая более продвинутые машины, мы играем с огнем». Эксперты CAIS делают вывод: «Уменьшение риска вымирания из-за ИИ должно быть глобальным приоритетом наряду с такими рисками, как пандемии и ядерная война». 

Мы предупреждали

Доводы компании нашли отклик во многих сферах. Подписи под заявлением поставили не только ученые и программисты, но также журналисты и бизнесмены. Наиболее знаковыми являются автографы «крестного отца» ИИ Джеффри Хинтона и гендира компании OpenAI Сэма Олтмена.

Ранее, они уже говорили об опасности ИИ. «Я довольно озабочен мыслями о возможных экзистенциальных рисках, которые могут появиться, когда эти штуки станут умнее нас…Я пришел к выводу, что [искусственный] интеллект отличается от нашего. Это как если бы один человек узнал что-то, и вместе с ним то же самое узнали еще 10 тыс. человек. Именно таким образом эти чат-боты знают больше, чем кто-либо». 

В умеренные ИИ-пессимисты записались и представители бигтехов, Илон Маск, а также сооснователь Apple Стив Возняк. В своем мартовском открытом письме они потребовали приостановить разработку более совершенных языковых моделей.

«Должны ли мы автоматизировать все рабочие места…? Должны ли мы развивать нечеловеческие мозги, которые могут впоследствии стать умнее…и заменить нас?», - говорилось в письме.

Согласно экспертам, пауза в развитии ИИ даст возможность разобраться в этических и социальных рисках, которые представляет технология. В свою очередь, это должно способствовать разработке более безопасных систем. Тем не менее, некоторые компании выступают против подобных шагов, так как это может навредить их непосредственным интересам.

Согласно Forbes, большинство опрошенных владельцев уверены в позитивном влиянии ИИ на их бизнес. Это касается повышения качества обслуживания (64%), роста продаж (60%), а также и усовершенствования процесса принятия корпоративных решений (44%). Особенно могут возмутиться компании, которые достигли новых высот из-за ассоциации с ИИ. Например, компания Nvidia пробила планку в 1 трлн. долларов рыночной капитализации как раз благодаря буму ИИ. Контраргументом сторонников паузы развития продвинутого ИИ является то, что она станет причиной лишь краткосрочных потерь. По их мнению, в долгосрочной перспективе перерыв и дополнительные исследования могут сделать применение технологии более безопасным и, этим самым, эффективнее сократить издержки бизнеса. Однако и эти доводы убеждают не всех. Противники приостановки развития ИИ утверждают, что «плохие акторы», несмотря на все договоренности, все равно продолжат подстраивать технологию под свои нужды.

ГеополИИтика

Отсюда призывы создать систему его правового регулирования ИИ. В США, например, первые зачатки подобного законодательства появились еще при Трампе (2020 г.), а уже в ноябре 2022 г. администрация Байдена опубликовала план Билля о правах в сфере искусственного интеллекта. Тем не мнее, пока это всего лишь наброски, не имеющие под собой никакой силы.

Совершенно иным образом обстоит дело в Китае. К маю 2023 г. Пекин уже работал над вторым пакетом законов, регулирующих ИИ. На протяжении 6 лет, с 2017 г., КНР изучает юридические аспекты внедрения технологии в большинство сфер жизни. Одна из целей такой активной деятельности – повышение доверия населения к ИИ. Кроме того, наличие правил, по мнению китайских экспертов, позволит предпринимателям с большей уверенностью использовать ИИ-решения в деятельности своих компаний. Более глобальной и долгосрочной целью может быть распространение китайской практики в другие страны, что даст преимущества Пекину в технологическом соперничестве с Соединенными Штатами.

На этот счет есть много разных соображений: часть исследователей уверена в успехе Поднебесной, другая уточняет, что наличие свода правил не отменяет отставания КНР от США по некоторым направлениям ИИ (например, большие языковые модели) – однако все это только подтверждает становление технологий искусственного интеллекта как предмета геополитической борьбы. 

Итоги

О потенциальных рисках ИИ говорят давно. На протяжении долгих лет к ним относились поверхностно, так как начало внедрения технологии в повседневную жизнь казалось отдаленным. Тем не менее, появление больших языковых моделей, постепенная интеграция ИИ-решений в области медицины, финансов и даже искусства вынудила экспертов задуматься. Слишком быстрое внедрение искусственного интеллекта, по их мнению, минимизирует шансы на обнаружения проблем в работе тех же языковых моделей. И судя по всему, таких голосов будет все больше. 

 

argus9804.06.23 19:49
9-я угроза не озвучена - что благодаря ИИ, у буржуев закончатся последние остатки собственного разума. О чём, в принципе, и говорят все предыдущие пункты.

ps По первому пункту есть наш "Периметр" - уже 40 лет верно несёт службу и не жалуется
Мороз04.06.23 20:24
Как только подавляющее большинство человечества начнет доверять так называемому "ИИ" - оно тут же превратится в полностью подконтрольное послушное стадо. А вот умное меньшинство - будет управлять тем самым "ИИ".
Ум и независимость ИИ - это мифй, морковка для ослов. Если на плечах нет своей головы - не поможет никакой интеллект.
English
Архив
Форум

 Наши публикациивсе статьи rss

» Памяти Фывы
» С Днем Победы!
» О типологическом сходстве-ловушке либералов, марксистов, масонов. Реплика к войне окололевых против всех
» О советских предателях и немецкой бюрократии
» Марксисты и искусственный "интеллект"
» 8 марта!
» Почему США мирятся с Россией, а Европа хочет воевать?
» С днем защитника Отечества!
» С Новым Годом!

 Новостивсе статьи rss

» СМИ узнали, что скрыл Израиль после ударов Ирана
» Армении нужна новая конституция, заявил Пашинян
» В Азербайджане будет размещена крупнейшая в регионе военная база НАТО
» Торгпредство России в Швеции подверглось нападению
» Страны ОПЕК+ в августе увеличат добычу на 548 тыс. б/с
» «Притворная игра ЕС» — польские фермеры против нового соглашения Брюсселя с Украиной
» Bloomberg узнал об отказе BlackRock искать деньги на Украину из-за Трампа
» ЕС создаст запасы критически важных минералов на случай ЧС, пишет FT

 Репортаживсе статьи rss

» Андрей Клепач: рецессии в экономике России не будет
» В Англию ни ногой: корпорации массово покидают Британию
» Разработчик рассказал о возможностях лазерного "лучемета"
» Лукашенко раскрыл шокирующие планы белорусской оппозиции
» "Товарищ" Мамдани, кандидат в мэры Нью-Йорка от социалистов, обещает "покончить с частной собственностью", объявляя конечной целью "захват средств производства"
» Николай Корчунов: Норвегия хорошо заработала на энергокризисе Европы
» В прошлом самая дорогая генерация стала экономически выгодна. Глава АРВЭ Жихарев - о перспективах возобновляемой энергетики
» Короткие с очередями: новые автоматы «Калашников» испытывают в зоне СВО

 Комментариивсе статьи rss

» Страны Запада стремятся получить доступ к Каспию
» Запад в шоке: нашелся миллион человек, готовых с улыбкой умереть за Россию
» После разгрома Германии японцы «искали дружбу» с СССР
» Дания будет способствовать усилению ограничений против РФ
» Морской толк: как в ирано-израильском конфликте проявили себя ВМС сторон
» Суверенное золото: зачем Германия требует свои запасы металла из США
» Францию ждет тотальная водная экономия
» МТК «Север – Юг»: реализуем ли альтернативный маршрут через Чёрное море и Турцию?

 Аналитикавсе статьи rss

» Одиссея мировой экономики: Сечин представил ключевой доклад на ПМЭФ-2025
» О расстройствах Мастера Сделок
» ПМЭФ-2025: Лето великого перелома
» Ничего уже не исправить: началась гонка за атомной бомбой
» Трансформация Америки: упущенные возможности и сохраняющиеся альтернативы
»  Америка грозит миру самым страшным
» Режим экономии в США закончился?
» Тарифная война Трампа: всё, что вы хотели узнать о ней, но боялись спросить у рынка облигаций
 
мобильная версия Сайт основан Натальей Лаваль в 2006 году © 2006-2024 Inca Group "War and Peace"