Регистрация / Вход
мобильная версия
ВОЙНА и МИР

 Сюжет дня

Джо Байден объявил о выходе из президентской гонки
Главная страница » Комментарии » Просмотр
Версия для печати
Нейросети выходят на потребление энергии (как) Швецией и Ирландией
28.02.24 08:54 Экология и климат
Искусственный интеллект - уже настоящий герой нашего времени. Он стремительно входит в жизнь, завоевывая все новые сферы деятельности, а из некоторых уже вытесняет человека. Как все кардинально новое, он вызывает и восторги, и страхи. Оптимистам, которые видят в ИИ наше все, оппоненты предлагают посмотреть на эту технологию более реалистично. Например, бурные споры вызвало опубликованное в журнале Joule исследование голландца Алекса де Вриса. Он показал, что системы искусственного интеллекта, особенно большие языковые модели, потребляют колоссальное количество энергии. Только один запрос требует 2,9 Вт-ч. энергии. Автор утверждает, что при таких темпах развития нейросетей к 2027 году их энергопотребление выйдет на уровень таких стран, как Нидерланды, Аргентина, Швеция и Ирландия.

Неоднократно об энергетическом аспекте систем типа ChatGPT высказывался президент НИЦ "Курчатовский институт" Михаил Ковальчук. Он утверждает, что они увеличивают темпы роста энергопотребления, обостряя проблему мирового энергокризиса. Ученый подчеркивает, что, несмотря на увеличение за последние 80 лет в три миллиона раз мировую электрогенерацию, государства находятся в кризисе, так как потребление энергии растет быстрее ее производства.

В этом с ним согласен известный эксперт, член президиума Совета по внешней и оборонной политике Александр Лосев. Кроме того, он подчеркнул, что безвредность цифровых технологий для окружающей среды - это иллюзия. В частности, он приводит такие цифры. Уже сейчас цифровые технологии потребляют 12% всей вырабатываемой в мире энергии, на них приходится уже 3% выбросов СО2 в атмосферу, в то время как мировая авиационная отрасль ответственна только за 2% выбросов. А ведь общественность уверена, что в глобальном потеплении виноваты почти все отрасли, но только не нейросети и не "цифра". Что они вне подозрения. Но похоже, что это не так.

А ведь помимо электричества, много воды требуется для охлаждения серверов. Например, корпорация Google за 2022 год потратила на это астрономические 21 миллиард литров, что на 20% больше, чем годом ранее.

Так, может, притормозить стремительное наступление ИИ? Оптимисты уверены, что подобные мнения - это нормальное явление. Опасения по поводу роста потребления энергии сопровождают развитие любой новой технологии. На ранних этапах они неэффективны, однако по мере их масштабирования обязательно появляются улучшения. Также будет и с нейросетями. Нет сомнений, что будут найдены креативные решения, которые значительно сократят потребление энергии, а значит, развеют панику вокруг ее чрезмерного расхода. Словом, энтузиасты "цифры" и нейросетей полны оптимизма.

Аркадий Симонов

Комментарий

Игорь Пивоваров, главный аналитик Центра искусственного интеллекта МФТИ

Игорь, есть оценки, на что нейросети расходуют энергию?

Игорь Пивоваров: Около 20 процентов идет на их обучение, 80 процентов - на использование, когда они "выходят в люди". Скажем, чат ChatGPT обучался на 10 тысячах серверов в течение полугода, а когда стал решать задачи, то их число выросло до 30 тысяч. Отсюда и резкий рост потребления.

Многие специалисты смотрят на энергетические аппетиты нейросетей довольно спокойно. Считается, что их польза существенно перекрывает проблемы большого расхода энергии.

Игорь Пивоваров: Все зависит от ситуации в данный момент времени. Когда я был активным программистом, то мы работали так, чтобы вписаться в имеющиеся ресурсы, в том числе и по вычислительной мощности компьютеров. Они были ограничены, и мы знали, что новых нам никто не даст. Поэтому изощрялись в программах, искали варианты эффективной работы.

Сейчас парадигма в корне поменялась. "Железо" сильно подешевело, и вполне естественно, что программисты "обленились". Они уже не обращают внимания, сколько памяти нужно для решения задачи. Если не хватает, добавим еще процессоров. Тоже сейчас и с нейронными сетями. Они стали гигантскими, потому что, если переписывать код, сделать их оптимальными, это потеря времени. А конкуренция огромная, простой тебя отбросит назад. Надо прийти первыми. Словом, переписывать программы дольше и дороже, чем просто нарастить процессоры. Что, конечно, ведет к дополнительному расходу энергии.

Так сегодня движется прогресс: безумная конкуренция диктует правила игры. Но время все расставит по своим местам. Когда проблема энергии в нейросетях станет критической, найдут способы ее экономить.

 

RML28.02.24 17:56
"Так, может, притормозить стремительное наступление ИИ?"

А может электростанций строить новых больше и не думать "зеленой повесточкой"?)
argus9828.02.24 19:31
"Искусственный интеллект - уже настоящий герой нашего времени."(c) - ага, мы это уже проходили. С нанотехнологиями, нанороботами и прочей нанохернёй.

С ИИ будет также

ps А как дышали на графен! Как дышали...
Ещё раньше - на генную инженерию. А арбуз с тараканами так и не скрестили
RML28.02.24 20:13
> argus98
"Искусственный интеллект - уже настоящий герой нашего времени."(c) - ага, мы это уже проходили. С нанотехнологиями, нанороботами и прочей нанохернёй.

С ИИ будет также

ps А как дышали на графен! Как дышали...
Ещё раньше - на генную инженерию. А арбуз с тараканами так и не скрестили

Процессоры на компуткеры сколько нанометров? А Монсанто с ГМО едой и удобрениями ни о чем не говорят?) Генная инженерия не перешла на практическую стадию генной терапии, биотехнологии и новые вакцины?))
argus9828.02.24 21:06
> RML "Процессоры на компуткеры сколько нанометров?"(c) - много.

Один кристалл Apple A17 (т.н."3 нм") имеет площадь 104 мм2 и содержит 19 млрд транзисторов.
Несложно посчитать площадь одного транзистора = 5463 нм2 (или квадрат со стороной 74 нм)

ps Я, конечно, не ретроград, но во всём нужна мера.
А то вся эта вакханалия с ИИ напоминает пляски дикарей вокруг очередного нового идола. Прогресс, естественно, идёт, инженеры с учёными постепенно его двигают, но недостаточно быстро с точки зрения маркетологов.
Ещё долго дворники будут всё так же мести улицы, повара - готовить еду, гусеницы - портить урожай (хоть с ГМО, хоть без), а маркетологи - придумывать новых идолов...

pps Люди продолжают умирать от рака. Несмотря на "генную терапию"
Zmey29.02.24 09:05
А ведь помимо электричества, много воды требуется для охлаждения серверов. Например, корпорация Google за 2022 год потратила на это астрономические 21 миллиард литров, что на 20% больше, чем годом ранее.
Они так пишут, будто эта вода израсходована прям в конец. До последней капли пропала на серверах. Ничего не осталось и на следующий год придется завезти новые 21 миллиард литров.

Сейчас парадигма в корне поменялась. "Железо" сильно подешевело, и вполне естественно, что программисты "обленились". Они уже не обращают внимания, сколько памяти нужно для решения задачи. Если не хватает, добавим еще процессоров. Тоже сейчас и с нейронными сетями. Они стали гигантскими, потому что, если переписывать код, сделать их оптимальными, это потеря времени.
Эта "парадигма" поменялась еще 10 лет назад. Когда про нейросети знали только специалисты.
А нейросети стали "гигантскими" просто потому, что чем больше в сети параметров, тем лучше она дает результат. И никакая оптимизация тут не поможет.
RML29.02.24 09:42
> argus98
> RML "Процессоры на компуткеры сколько нанометров?"(c) - много.

Один кристалл Apple A17 (т.н."3 нм") имеет площадь 104 мм2 и содержит 19 млрд транзисторов.
Несложно посчитать площадь одного транзистора = 5463 нм2 (или квадрат со стороной 74 нм)

ps Я, конечно, не ретроград, но во всём нужна мера.
А то вся эта вакханалия с ИИ напоминает пляски дикарей вокруг очередного нового идола. Прогресс, естественно, идёт, инженеры с учёными постепенно его двигают, но недостаточно быстро с точки зрения маркетологов.
Ещё долго дворники будут всё так же мести улицы, повара - готовить еду, гусеницы - портить урожай (хоть с ГМО, хоть без), а маркетологи - придумывать новых идолов...

pps Люди продолжают умирать от рака. Несмотря на "генную терапию"

В Питере я видел как дворник сам себе мастерит метлу из веток. Т.е жилконтора, там где он трудится, настолько офигела, что даже деньги на швабру "не может" выделить. Есть классические инструменты для уборки ЖКХ, полуавтоматизированные, например, керхеры и аналоги отечественные тоже вроде есть.

Кто их будет внедрять? Если можно дворника заставить делать метлу из веток...
Маркетологи могут отлично работать, но кто заставит ЖКХ чего то менять?)

Есть пример, наоборот, с активным внедрением хайтека, там где маркетологи заставляют покупать - мобильная связь, интернет, смартфоны. Только вот нокии 3310 до смартфона сегодня... прошло много лет.

Аналогично со всем остальным.

Путин как то говорил о том, что в России создается вакцина от рака. Когда Путин говорит, это факт. Опять же сказал он недавно, а она когда будет? Лет через 5-10 наверное... это очень долгий процесс.

Итого 3 примера - когда никому ничего не требуется; когда требуется и все эволюционирует долго; когда требуется, но на создание вакцины нужны годы.
RML29.02.24 09:54
> Zmey
А ведь помимо электричества, много воды требуется для охлаждения серверов. Например, корпорация Google за 2022 год потратила на это астрономические 21 миллиард литров, что на 20% больше, чем годом ранее.
Они так пишут, будто эта вода израсходована прям в конец. До последней капли пропала на серверах. Ничего не осталось и на следующий год придется завезти новые 21 миллиард литров.

Сейчас парадигма в корне поменялась. "Железо" сильно подешевело, и вполне естественно, что программисты "обленились". Они уже не обращают внимания, сколько памяти нужно для решения задачи. Если не хватает, добавим еще процессоров. Тоже сейчас и с нейронными сетями. Они стали гигантскими, потому что, если переписывать код, сделать их оптимальными, это потеря времени.
Эта "парадигма" поменялась еще 10 лет назад. Когда про нейросети знали только специалисты.
А нейросети стали "гигантскими" просто потому, что чем больше в сети параметров, тем лучше она дает результат. И никакая оптимизация тут не поможет.

Скорее вопрос во внедрении) Спеицалисты раньше "баловались", а потом предоставили готовые нейронки для всего и вся... и конечно сети "толстеют".

ГИБДД Москвы хочет штрафовать и внедряет нейросеть, итоги
"В Москве ГИБДД с 1 декабря вынесла почти 2500 штрафов водителям за непристегнутый ремень или за разговор по телефону без hands free, эти нарушения распознал встроенный в камеры программный модуль "Безопасность", работающий на основе нейросети.

Сложно даже представить какой гиганский размер у Московской нейронки в пагонах.
Главный Злодей02.03.24 01:05
Они так пишут, будто эта вода израсходована прям в конец. До последней капли пропала на серверах. Ничего не осталось и на следующий год придется завезти новые 21 миллиард литров.
На самом деле, кто его знает. После использования в ихней системе охлаждения хрен знает, чем эта вода засорится и будет ли пригодна даже для переиспользования там же. Это же пиндосия, там технологии максимально ущербные.

А Монсанто с ГМО едой и удобрениями ни о чем не говорят?)
Говорят исключительно в ракурсе "поскольку наши семена выведены вовсе даже не унылой мичуринской гибридизацией, а б/п авторской модификацией генов (гадами будем, вот прямо крест на пузе во всю спину, лично со скальпелем каждый ген модифицировали!), то нам должны за авторские права". Ещё когда-то на заре темы были совсем уж дикие вбросы, типа помидоров с генами от селёдки, которые от этого приобрели какую-то там морозоустойчивость, но стали вызывать аллергию как на селёдку, но вскоре даже жёлтые газетёнки стали стыдиться проплачивать такие новости, и они делись куда-то туда же, что и про чудеса нанотехнологий.
Kotofeich02.03.24 05:55
> Главный Злодей
Они так пишут, будто эта вода израсходована прям в конец. До последней капли пропала на серверах. Ничего не осталось и на следующий год придется завезти новые 21 миллиард литров.
На самом деле, кто его знает. После использования в ихней системе охлаждения хрен знает, чем эта вода засорится и будет ли пригодна даже для переиспользования там же. Это же пиндосия, там технологии максимально ущербные.
Охлаждение в таких масштабах проблема очень серьезная. Вода должна отводить все это тепло - куда? Например Майкрософт уже несколько лет работает над пилотной программой модульных дата центров, которые можно погружать в океан - типа идеальные условия для охлаждения. Но ведь по сути это как опустить кипятильник в океан. Да, масштабы такого кипятильника не сопоставимы с океаном. Пока не сопоставимы. Но таких кипятильников уже очень много по планете (пока на суше) и их строят бешенными темпами по всем регионам для обеспечения близости к потребителю ибо счет реально идет на десятки милисекунд загрузки контента.

Так что суммарное тепловое загрязнение от такой активности растет практически по экспоненте. И даже если источники энергии для датацентров будут очень зелеными (чего не будет в ближайшие лет 50 как минимум), то проблема теплового загрязнения будет становиться все серьезнее.
RML02.03.24 11:00
> Главный Злодей
Они так пишут, будто эта вода израсходована прям в конец. До последней капли пропала на серверах. Ничего не осталось и на следующий год придется завезти новые 21 миллиард литров.
На самом деле, кто его знает. После использования в ихней системе охлаждения хрен знает, чем эта вода засорится и будет ли пригодна даже для переиспользования там же. Это же пиндосия, там технологии максимально ущербные.

А Монсанто с ГМО едой и удобрениями ни о чем не говорят?)
Говорят исключительно в ракурсе "поскольку наши семена выведены вовсе даже не унылой мичуринской гибридизацией, а б/п авторской модификацией генов (гадами будем, вот прямо крест на пузе во всю спину, лично со скальпелем каждый ген модифицировали!), то нам должны за авторские права". Ещё когда-то на заре темы были совсем уж дикие вбросы, типа помидоров с генами от селёдки, которые от этого приобрели какую-то там морозоустойчивость, но стали вызывать аллергию как на селёдку, но вскоре даже жёлтые газетёнки стали стыдиться проплачивать такие новости, и они делись куда-то туда же, что и про чудеса нанотехнологий.


Таких чудес у нас нет т.к существует запрет на такой прогресс. Прогресс же не означает, что будет всем хорошо и вкусно. А в России со времен Мичурина многое поменялось, в том числе развивается геномная селекция)
Спящий лев09.03.24 23:08
> Kotofeich
> Главный Злодей
Они так пишут, будто эта вода израсходована прям в конец. До последней капли пропала на серверах. Ничего не осталось и на следующий год придется завезти новые 21 миллиард литров.
На самом деле, кто его знает. После использования в ихней системе охлаждения хрен знает, чем эта вода засорится и будет ли пригодна даже для переиспользования там же. Это же пиндосия, там технологии максимально ущербные.
Охлаждение в таких масштабах проблема очень серьезная. Вода должна отводить все это тепло - куда? Например Майкрософт уже несколько лет работает над пилотной программой модульных дата центров, которые можно погружать в океан - типа идеальные условия для охлаждения. Но ведь по сути это как опустить кипятильник в океан. Да, масштабы такого кипятильника не сопоставимы с океаном. Пока не сопоставимы. Но таких кипятильников уже очень много по планете (пока на суше) и их строят бешенными темпами по всем регионам для обеспечения близости к потребителю ибо счет реально идет на десятки милисекунд загрузки контента.

Так что суммарное тепловое загрязнение от такой активности растет практически по экспоненте. И даже если источники энергии для датацентров будут очень зелеными (чего не будет в ближайшие лет 50 как минимум), то проблема теплового загрязнения будет становиться все серьезнее.
Отсюда ссылка Автор: Сергей Переслегин
"А потом, у всех свои проблемы. Запад, безусловно, лучше работает с техникой. Зато гуманитарный и психологический аспекты искусственного интеллекта там не понимают вообще. У нас все-таки более-менее междисциплинарная страна по типу образования, а у них очень конкретная.

На Западе об ИИ говорят исключительно в контексте удвоения плотности элементов по закону Мура. И легко забывают, что, например, по второму началу термодинамики на каждую логическую операцию выделяется тепло. Я одному из них как-то сказал, мол, при том объеме двоичных операций в секунду, который вы заявляете, у вас выделится тепла больше, чем при детонации 20-мегатонной ядерной бомбы. Вы уверены, что очень хотите сделать подобное устройство? А он не понимает таких вещей, потому что сам кибернетик и термодинамику просто не знает."

Alanv11.03.24 12:41
- "Эта "парадигма" поменялась еще 10 лет назад." - Куда как раньше и до всяких нейронок. Когда появилось "програмирование с классами" и размеры подсоединяемых библиотек стали гигантскими, будучи используемыми в конкретной задаче хорошо если на пару процентов. Это я про ситуацию с памятью.

- "Так что суммарное тепловое загрязнение от такой активности растет практически по экспоненте. И даже если источники энергии для датацентров будут очень зелеными (чего не будет в ближайшие лет 50 как минимум), то проблема теплового загрязнения будет становиться все серьезнее." - Источники электроэнергии "зелёные" лишь в смысле CO2. А в смысле тепла - они все тепловые, бо являются следствием преобразования природой тепла от центральной звезды. Более того, неиспользованная "зелёными электростанциями" "зелёная энергия" планеты по второму началу рано или поздно точно также превращается в тепло. А вот CO2 удерживает больше энергии звезды для планеты. Поэтому ОБЩИЙ теплобаланс от получаемой лучистой энергии после обратного перевода потребителями э/энергии в тепло не менялся никогда и не изменится НИКАК.

- "На Западе об ИИ говорят исключительно в контексте удвоения плотности элементов по закону Мура. И легко забывают, что, например, по второму началу термодинамики на каждую логическую операцию выделяется тепло." - Никто ничего не забывает, именно поэтому прежде всего все озабочены уменьшением тепловыделения на КАЖДУЮ логическую операцию. Увеличение операций в секунду дл процессоров связано с попыткой всё более точно моделировать природу с помощью двоичного описания и операций. А ведь человеческий мозг прекрасно работает с весьма небольшим тепловыделением и явно не с двоичной логикой, а ведь он и есть "интеллект", который все пытаются смоделировать.
English
Архив
Форум

 Наши публикациивсе статьи rss

» Памяти Фывы
» Война на Кандалакшском направлении 1941-1944, Сборник документов с немецко-финской стороны
» Что является капиталом венчурного инвестора
» О категории «снятие» у Гегеля и в диалектическом материализме
» С Днём Победы!
» Квантовые вычисления - красная ртуть XXI века
» Судьба марксизма и капитализма в обозримом будущем
» Восьмое Марта!!!
» Почему "Вызываю Волгу" не работает?

 Новостивсе статьи rss

» Между Ираном и Арменией нет военного контракта на $ 500 млн — посол ИРИ в Ереване
» США требуют от Европы гарантий продолжения заморозки российских активов
» Батальон "Азов"* в берлинском Трептов-парке: отмена пропагандистского мероприятия
» Роковые ошибки Украины способствуют продвижению российских войск
» На Киалимском водохранилище в Челябинской области разрушилась дамба
» Тяжелый морской дрон на базе "Визира" сделают ракетным
» Марсоход НАСА нашел горную породу, на которой могли обитать живые организмы
» МО: Су-27 не позволил самолету-шпиону RC-135 приблизиться к границе РФ

 Репортаживсе статьи rss

» Россия готовит «карты соотечественника»: латвийские аналитические центры бьют тревогу
» Николай Патрушев: Наступает очередной этап развития ВМФ
» «Грабеж без возврата»: США готовы продать отжатую российскую дипсобственность
» Адмирала Кузнецова вызывали к Сталину рекордное число раз, сообщили в РВИО
» Лишая Запад монополии на информацию. Почему БРИКС определяет новую расстановку сил в глобальном медиаполе
» США грозят жестко наказать самую важную в мире компанию для производства чипов. Акции уже резко обвалились
» Снова глава Еврокомиссии. Скандалы и проамериканизм: чем известна Урсула фон дер Ляйен
» США больше не нужны. «Лаборатория Касперского» уходит из страны и увольняет персонал

 Комментариивсе статьи rss

» Украина наращивает свое дипломатическое контрнаступление в Африке
» Что ждет США и весь мир после выхода Байдена из предвыборной гонки
» В России растет не только производство оружия. Практически все отрасли активно развиваются
» Бовт: Ограничение притока работников-мигрантов поспособствует повышению производительности труда
» Планы Зеленского: агросектор — под нож, крестьян — в рабство к Дюпонам и Ко.
» NYT: Путин правильно рассчитал, что Запад рано или поздно устанет от Украины
» Замгоссекретаря США проинспектировала армянских силовиков
» Сказки вашингтонского леса: США готовят «самоубийство» Армении — мнение

 Аналитикавсе статьи rss

» Финны ждут, чем кончится украинский эксперимент с ядерным топливом из США
» Поблочный эффект: фон дер Ляйен требует превратить ЕС в оборонный союз
» Чем опасен тандем F-16AM c ракетами AIM-120D и AIM-174B для наших Су-35С?
» Исследование: Украинский нацизм грозит захватом культурного пространства Европы
» Монголия-США: парадоксальное военное партнёрство?
» БРИКС скоро предложит миру политическую альтернативу, заявили в Турции
» Всемирный банк резко повысил прогноз по ВВП РФ
» «Правила контролируемой эскалации»: RAND презентовала «стратегии победы США над Китаем»
 
мобильная версия Сайт основан Натальей Лаваль в 2006 году © 2006-2024 Inca Group "War and Peace"