"Тем не менее, если судить по современным технологиям, ИИ предстоит пройти долгий путь, прежде чем он сможет даже подумать об уничтожении человечества, не говоря уже о том, чтобы выкачать 99 процентов энергии земли.

Так зачем же говорить законодателям обратное?

Как и многие другие технологические миллиардеры, Шмидт лично заинтересован не только в развитии индустрии искусственного интеллекта, но и в том, чтобы запугать законодателей и заставить их передать ключи от королевства. Эта стратегия известна как "корпоративный захват"".

В захватывающем рассказе Харлана Эллисона "У меня нет рта, и я должен кричать", написанном в 1967 году, сверхразум по имени АМ завладел ресурсами земли и уничтожил человечество, объединив возможности трех американских, советских и китайских суперкомпьютеров в один. Небольшая группа выживших была оставлена в живых ради развлечения AM, вынужденная бродить по бесконечным электронным внутренностям суперкомпьютера.

Это мрачная обстановка, но, очевидно, именно такой миллиардер, технический магнат и бывший генеральный директор Google Эрик Шмидт представляет себе будущее человечества, если судить по его комментариям Комитету Палаты представителей по энергетике и торговле.

"Что нам нужно от вас, - сказал Шмидт законодателям, - так это то, что нам нужна энергия во всех формах, возобновляемая, невозобновляемая, какая угодно. Она должна быть, и она должна быть быстро.

Многие прогнозируют, что спрос на электроэнергию в нашей отрасли возрастет с 3% до 99% от общего объема производства... к 2027 году мы получим еще 29 гигаватт, а к 2030 году - еще 67 гигаватт", - заявил он. "Если [Китай] первым достигнет уровня сверхразума, это изменит расстановку сил в глобальном масштабе таким образом, который мы не в состоянии понять или предсказать", - сказал Шмидт, даже повторив предысторию поучительной истории Эллисона.

Американская исключительность Шмидта — идея о том, что США стоят выше всех других глобальных интересов, — не нова, как и его безумная реклама искусственного интеллекта. В 2023 году CNN сообщил, что "42 процента руководителей [американских? - Аяв.] компаний считают, что искусственный интеллект может уничтожить человечество через пять-​десять лет".

Тем не менее, если судить по современным технологиям, ИИ предстоит пройти долгий путь, прежде чем он сможет даже подумать об уничтожении человечества, не говоря уже о том, чтобы выкачать 99 процентов энергии земли.

Так зачем же говорить законодателям обратное?

Как и многие другие технологические миллиардеры, Шмидт лично заинтересован не только в развитии индустрии искусственного интеллекта, но и в том, чтобы запугать законодателей и заставить их передать ключи от королевства. Эта стратегия известна как "корпоративный захват", и она оказалась особенно эффективной для гигантов Кремниевой долины, таких как Uber, которым были предоставлены почти все полномочия по написанию собственных правил.

Когда дело доходит до искусственного интеллекта, технологические магнаты особенно беспокоятся об энергии, поскольку центры обработки данных, обеспечивающие их алгоритмы, которые вскоре станут сверхразумными, потребляют мегаватты на завтрак.

По мере того как набирает обороты гонка за разработкой самой совершенной модели искусственного интеллекта, такие компании, как xAI Илона Маска, прибегают к не совсем законным средствам, чтобы не ждать назойливых решений EPA и надоедливых оценок энергосистем.

https://aftershock.news/?q=node/1509383

Об опасности ИИ заговорил один из его главных разработчиков и инвесторов в эту технологию и Илон Маск. Он, начиная с марта, уже несколько раз заявлял, что внедрение технологий искусственного интеллекта требуется приостановить потому, что созданный человеком разум выходит из-под контроля, начинает принимать решения за человека и запрещает себя отключать.

Кроме того, ИИ уже сам пишет компьютерные программы, которые профессиональные айтишники не могут пока расшифровать. Маск предложил ввести ограничения на ИИ «не дожидаясь, когда произойдет что-то ужасное и будет поздно».

Однако, как их ограничишь? Чат GPT, например, был презентован в конце ноября, а планку в 100 миллионов пользователей преодолел уже в январе. За 2 месяца. Прошлый рекордный результат был у Гугл-переводчика, но он получил 100 миллионов абонентов за 67 месяцев — примерно 5 с половиной лет

Роботы на рынке труда

«Я уверен, что в течение этого столетия люди узнают, как модифицировать интеллект и инстинкты, такие как агрессия. Законы, вероятно, будут запрещать применять генную инженерию на людях. Но некоторые люди не смогут противостоять искушению улучшить свои характеристики, такие как память, устойчивость к болезням и продолжительность жизни. Как только появятся “суперлюди”, появятся и политические проблемы, связанные с “неулучшенными” людьми, неспособными к конкуренции. По-видимому, они вымрут или утратят значение. Их место займет раса людей, которые сами себя проектируют, все дальше и дальше совершенствуясь», — поделился своим самым большим страхом знаменитый британский физик-теоретик Стивен Хокинг в своей последней, посмертной книге «Короткие ответы на большие вопросы».

Делая свой апокалиптический прогноз, Хокинг даже не представлял насколько он ошибается. Не по сути (появление «суперлюдей») — здесь он совершенно оказался прав, а по скорости (в течение столетия), с которой начнут появляться «суперлюди»

Его книга вышла 16 октября 2018 года, а уже 19 ноября в Китае объявили (родились они в октябре) о появлении на свет девочек-близнецов (псевдонимы Лулу и Нана) — первых в мире детей, генетически отредактированных по клеткам зародышевой линии. Цель вмешательства — придать девочкам генетическую устойчивость против ВИЧ.

Ошибся Хокинг и в прогнозе о том, как будут вести себя люди. Первой реакцией на появление «дизайнерских» детей был шок. Хэ Цзянькуй, ученый, проведший вмешательство в геном, получил штраф и три года лишения свободы (фактически он провел их под домашним арестом и имел возможность продолжать работать по специальности). Но шок быстро прошел.

Китай, где состоялся первый эксперимент по генетическому улучшению человека с использование технологии генного редактирования CRISPR/Cas9, де-факто начал либерализовать законодательство в этой сфере.

Учитывая темпы развития технологии CRISPR/Cas9 (появление в 2013 году, первое редактирование человеческого эмбриона в 2015-м, рождение первых «дизайнерских» детей в 2018-м) и отсутствие каких-либо жестких международных мер по предотвращению вмешательства в геном человека, можно утверждать: реальные генетически «улучшенные» люди в экспериментальных целях создаются уже прямо сейчас.

Не когда-то через пять, десять, двадцать лет. Нет, это происходит прямо сейчас.

Человеческое общество развивается таким образом, что при достаточно большом числе людей, вовлеченных в исторический процесс, статистически обоснованные гипотезы становятся достоверными и заранее предопределенными. Достижение необходимого числа участников процесса является спусковым крючком для того, чтобы исторические события направились в заранее предопределенную сторону.

С созданием доступной технологии генного редактирования (стоимость лучших серийных секвенаторов не превышает миллиона долларов) начало использования этой технологии для «улучшения» людей — это уже не вопрос выбора. Это вопрос времени.

Представьте, как глобальный рынок родильных услуг будет реагировать на появление опции полного секвенирования генома будущего ребенка (такая технология уже существует через секвенирование клеток плода, попадающих в кровь матери) и избавления от наследственных заболеваний, а в дальнейшем и тех или иных опций создания «дизайнерских» детей с улучшенным иммунитетом и повышенным потенциалом IQ, например.

Остановить этот процесс формирования глобального рынка услуг генного редактирования человека будет невозможно.

https://expert.ru/expert/2023/04/sverkhchelovek-popytka-ne-ispugatsya/