Регистрация / Вход
мобильная версия
ВОЙНА и МИР

 Сюжет дня

Российские миротворцы покидают Нагорный Карабах
Памфилова вручила Путину удостоверение президента РФ
Владимир Путин ответил на вопросы Дмитрия Киселёва
Восьмое Марта!!!
Главная страница » Комментарии » Просмотр
Версия для печати
Нейросети выходят на потребление энергии (как) Швецией и Ирландией
28.02.24 08:54 Экология и климат
Искусственный интеллект - уже настоящий герой нашего времени. Он стремительно входит в жизнь, завоевывая все новые сферы деятельности, а из некоторых уже вытесняет человека. Как все кардинально новое, он вызывает и восторги, и страхи. Оптимистам, которые видят в ИИ наше все, оппоненты предлагают посмотреть на эту технологию более реалистично. Например, бурные споры вызвало опубликованное в журнале Joule исследование голландца Алекса де Вриса. Он показал, что системы искусственного интеллекта, особенно большие языковые модели, потребляют колоссальное количество энергии. Только один запрос требует 2,9 Вт-ч. энергии. Автор утверждает, что при таких темпах развития нейросетей к 2027 году их энергопотребление выйдет на уровень таких стран, как Нидерланды, Аргентина, Швеция и Ирландия.

Неоднократно об энергетическом аспекте систем типа ChatGPT высказывался президент НИЦ "Курчатовский институт" Михаил Ковальчук. Он утверждает, что они увеличивают темпы роста энергопотребления, обостряя проблему мирового энергокризиса. Ученый подчеркивает, что, несмотря на увеличение за последние 80 лет в три миллиона раз мировую электрогенерацию, государства находятся в кризисе, так как потребление энергии растет быстрее ее производства.

В этом с ним согласен известный эксперт, член президиума Совета по внешней и оборонной политике Александр Лосев. Кроме того, он подчеркнул, что безвредность цифровых технологий для окружающей среды - это иллюзия. В частности, он приводит такие цифры. Уже сейчас цифровые технологии потребляют 12% всей вырабатываемой в мире энергии, на них приходится уже 3% выбросов СО2 в атмосферу, в то время как мировая авиационная отрасль ответственна только за 2% выбросов. А ведь общественность уверена, что в глобальном потеплении виноваты почти все отрасли, но только не нейросети и не "цифра". Что они вне подозрения. Но похоже, что это не так.

А ведь помимо электричества, много воды требуется для охлаждения серверов. Например, корпорация Google за 2022 год потратила на это астрономические 21 миллиард литров, что на 20% больше, чем годом ранее.

Так, может, притормозить стремительное наступление ИИ? Оптимисты уверены, что подобные мнения - это нормальное явление. Опасения по поводу роста потребления энергии сопровождают развитие любой новой технологии. На ранних этапах они неэффективны, однако по мере их масштабирования обязательно появляются улучшения. Также будет и с нейросетями. Нет сомнений, что будут найдены креативные решения, которые значительно сократят потребление энергии, а значит, развеют панику вокруг ее чрезмерного расхода. Словом, энтузиасты "цифры" и нейросетей полны оптимизма.

Аркадий Симонов

Комментарий

Игорь Пивоваров, главный аналитик Центра искусственного интеллекта МФТИ

Игорь, есть оценки, на что нейросети расходуют энергию?

Игорь Пивоваров: Около 20 процентов идет на их обучение, 80 процентов - на использование, когда они "выходят в люди". Скажем, чат ChatGPT обучался на 10 тысячах серверов в течение полугода, а когда стал решать задачи, то их число выросло до 30 тысяч. Отсюда и резкий рост потребления.

Многие специалисты смотрят на энергетические аппетиты нейросетей довольно спокойно. Считается, что их польза существенно перекрывает проблемы большого расхода энергии.

Игорь Пивоваров: Все зависит от ситуации в данный момент времени. Когда я был активным программистом, то мы работали так, чтобы вписаться в имеющиеся ресурсы, в том числе и по вычислительной мощности компьютеров. Они были ограничены, и мы знали, что новых нам никто не даст. Поэтому изощрялись в программах, искали варианты эффективной работы.

Сейчас парадигма в корне поменялась. "Железо" сильно подешевело, и вполне естественно, что программисты "обленились". Они уже не обращают внимания, сколько памяти нужно для решения задачи. Если не хватает, добавим еще процессоров. Тоже сейчас и с нейронными сетями. Они стали гигантскими, потому что, если переписывать код, сделать их оптимальными, это потеря времени. А конкуренция огромная, простой тебя отбросит назад. Надо прийти первыми. Словом, переписывать программы дольше и дороже, чем просто нарастить процессоры. Что, конечно, ведет к дополнительному расходу энергии.

Так сегодня движется прогресс: безумная конкуренция диктует правила игры. Но время все расставит по своим местам. Когда проблема энергии в нейросетях станет критической, найдут способы ее экономить.

 

RML, RU28.02.24 17:56
"Так, может, притормозить стремительное наступление ИИ?"

А может электростанций строить новых больше и не думать "зеленой повесточкой"?)
argus98, RU28.02.24 19:31
"Искусственный интеллект - уже настоящий герой нашего времени."(c) - ага, мы это уже проходили. С нанотехнологиями, нанороботами и прочей нанохернёй.

С ИИ будет также

ps А как дышали на графен! Как дышали...
Ещё раньше - на генную инженерию. А арбуз с тараканами так и не скрестили
RML, RU28.02.24 20:13
> argus98
"Искусственный интеллект - уже настоящий герой нашего времени."(c) - ага, мы это уже проходили. С нанотехнологиями, нанороботами и прочей нанохернёй.

С ИИ будет также

ps А как дышали на графен! Как дышали...
Ещё раньше - на генную инженерию. А арбуз с тараканами так и не скрестили

Процессоры на компуткеры сколько нанометров? А Монсанто с ГМО едой и удобрениями ни о чем не говорят?) Генная инженерия не перешла на практическую стадию генной терапии, биотехнологии и новые вакцины?))
argus98, RU28.02.24 21:06
> RML "Процессоры на компуткеры сколько нанометров?"(c) - много.

Один кристалл Apple A17 (т.н."3 нм") имеет площадь 104 мм2 и содержит 19 млрд транзисторов.
Несложно посчитать площадь одного транзистора = 5463 нм2 (или квадрат со стороной 74 нм)

ps Я, конечно, не ретроград, но во всём нужна мера.
А то вся эта вакханалия с ИИ напоминает пляски дикарей вокруг очередного нового идола. Прогресс, естественно, идёт, инженеры с учёными постепенно его двигают, но недостаточно быстро с точки зрения маркетологов.
Ещё долго дворники будут всё так же мести улицы, повара - готовить еду, гусеницы - портить урожай (хоть с ГМО, хоть без), а маркетологи - придумывать новых идолов...

pps Люди продолжают умирать от рака. Несмотря на "генную терапию"
Zmey29.02.24 09:05
А ведь помимо электричества, много воды требуется для охлаждения серверов. Например, корпорация Google за 2022 год потратила на это астрономические 21 миллиард литров, что на 20% больше, чем годом ранее.
Они так пишут, будто эта вода израсходована прям в конец. До последней капли пропала на серверах. Ничего не осталось и на следующий год придется завезти новые 21 миллиард литров.

Сейчас парадигма в корне поменялась. "Железо" сильно подешевело, и вполне естественно, что программисты "обленились". Они уже не обращают внимания, сколько памяти нужно для решения задачи. Если не хватает, добавим еще процессоров. Тоже сейчас и с нейронными сетями. Они стали гигантскими, потому что, если переписывать код, сделать их оптимальными, это потеря времени.
Эта "парадигма" поменялась еще 10 лет назад. Когда про нейросети знали только специалисты.
А нейросети стали "гигантскими" просто потому, что чем больше в сети параметров, тем лучше она дает результат. И никакая оптимизация тут не поможет.
RML, RU29.02.24 09:42
> argus98
> RML "Процессоры на компуткеры сколько нанометров?"(c) - много.

Один кристалл Apple A17 (т.н."3 нм") имеет площадь 104 мм2 и содержит 19 млрд транзисторов.
Несложно посчитать площадь одного транзистора = 5463 нм2 (или квадрат со стороной 74 нм)

ps Я, конечно, не ретроград, но во всём нужна мера.
А то вся эта вакханалия с ИИ напоминает пляски дикарей вокруг очередного нового идола. Прогресс, естественно, идёт, инженеры с учёными постепенно его двигают, но недостаточно быстро с точки зрения маркетологов.
Ещё долго дворники будут всё так же мести улицы, повара - готовить еду, гусеницы - портить урожай (хоть с ГМО, хоть без), а маркетологи - придумывать новых идолов...

pps Люди продолжают умирать от рака. Несмотря на "генную терапию"

В Питере я видел как дворник сам себе мастерит метлу из веток. Т.е жилконтора, там где он трудится, настолько офигела, что даже деньги на швабру "не может" выделить. Есть классические инструменты для уборки ЖКХ, полуавтоматизированные, например, керхеры и аналоги отечественные тоже вроде есть.

Кто их будет внедрять? Если можно дворника заставить делать метлу из веток...
Маркетологи могут отлично работать, но кто заставит ЖКХ чего то менять?)

Есть пример, наоборот, с активным внедрением хайтека, там где маркетологи заставляют покупать - мобильная связь, интернет, смартфоны. Только вот нокии 3310 до смартфона сегодня... прошло много лет.

Аналогично со всем остальным.

Путин как то говорил о том, что в России создается вакцина от рака. Когда Путин говорит, это факт. Опять же сказал он недавно, а она когда будет? Лет через 5-10 наверное... это очень долгий процесс.

Итого 3 примера - когда никому ничего не требуется; когда требуется и все эволюционирует долго; когда требуется, но на создание вакцины нужны годы.
RML, RU29.02.24 09:54
> Zmey
А ведь помимо электричества, много воды требуется для охлаждения серверов. Например, корпорация Google за 2022 год потратила на это астрономические 21 миллиард литров, что на 20% больше, чем годом ранее.
Они так пишут, будто эта вода израсходована прям в конец. До последней капли пропала на серверах. Ничего не осталось и на следующий год придется завезти новые 21 миллиард литров.

Сейчас парадигма в корне поменялась. "Железо" сильно подешевело, и вполне естественно, что программисты "обленились". Они уже не обращают внимания, сколько памяти нужно для решения задачи. Если не хватает, добавим еще процессоров. Тоже сейчас и с нейронными сетями. Они стали гигантскими, потому что, если переписывать код, сделать их оптимальными, это потеря времени.
Эта "парадигма" поменялась еще 10 лет назад. Когда про нейросети знали только специалисты.
А нейросети стали "гигантскими" просто потому, что чем больше в сети параметров, тем лучше она дает результат. И никакая оптимизация тут не поможет.

Скорее вопрос во внедрении) Спеицалисты раньше "баловались", а потом предоставили готовые нейронки для всего и вся... и конечно сети "толстеют".

ГИБДД Москвы хочет штрафовать и внедряет нейросеть, итоги
"В Москве ГИБДД с 1 декабря вынесла почти 2500 штрафов водителям за непристегнутый ремень или за разговор по телефону без hands free, эти нарушения распознал встроенный в камеры программный модуль "Безопасность", работающий на основе нейросети.

Сложно даже представить какой гиганский размер у Московской нейронки в пагонах.
Главный Злодей, RU02.03.24 01:05
Они так пишут, будто эта вода израсходована прям в конец. До последней капли пропала на серверах. Ничего не осталось и на следующий год придется завезти новые 21 миллиард литров.
На самом деле, кто его знает. После использования в ихней системе охлаждения хрен знает, чем эта вода засорится и будет ли пригодна даже для переиспользования там же. Это же пиндосия, там технологии максимально ущербные.

А Монсанто с ГМО едой и удобрениями ни о чем не говорят?)
Говорят исключительно в ракурсе "поскольку наши семена выведены вовсе даже не унылой мичуринской гибридизацией, а б/п авторской модификацией генов (гадами будем, вот прямо крест на пузе во всю спину, лично со скальпелем каждый ген модифицировали!), то нам должны за авторские права". Ещё когда-то на заре темы были совсем уж дикие вбросы, типа помидоров с генами от селёдки, которые от этого приобрели какую-то там морозоустойчивость, но стали вызывать аллергию как на селёдку, но вскоре даже жёлтые газетёнки стали стыдиться проплачивать такие новости, и они делись куда-то туда же, что и про чудеса нанотехнологий.
Kotofeich, US02.03.24 05:55
> Главный Злодей
Они так пишут, будто эта вода израсходована прям в конец. До последней капли пропала на серверах. Ничего не осталось и на следующий год придется завезти новые 21 миллиард литров.
На самом деле, кто его знает. После использования в ихней системе охлаждения хрен знает, чем эта вода засорится и будет ли пригодна даже для переиспользования там же. Это же пиндосия, там технологии максимально ущербные.
Охлаждение в таких масштабах проблема очень серьезная. Вода должна отводить все это тепло - куда? Например Майкрософт уже несколько лет работает над пилотной программой модульных дата центров, которые можно погружать в океан - типа идеальные условия для охлаждения. Но ведь по сути это как опустить кипятильник в океан. Да, масштабы такого кипятильника не сопоставимы с океаном. Пока не сопоставимы. Но таких кипятильников уже очень много по планете (пока на суше) и их строят бешенными темпами по всем регионам для обеспечения близости к потребителю ибо счет реально идет на десятки милисекунд загрузки контента.

Так что суммарное тепловое загрязнение от такой активности растет практически по экспоненте. И даже если источники энергии для датацентров будут очень зелеными (чего не будет в ближайшие лет 50 как минимум), то проблема теплового загрязнения будет становиться все серьезнее.
RML, RU02.03.24 11:00
> Главный Злодей
Они так пишут, будто эта вода израсходована прям в конец. До последней капли пропала на серверах. Ничего не осталось и на следующий год придется завезти новые 21 миллиард литров.
На самом деле, кто его знает. После использования в ихней системе охлаждения хрен знает, чем эта вода засорится и будет ли пригодна даже для переиспользования там же. Это же пиндосия, там технологии максимально ущербные.

А Монсанто с ГМО едой и удобрениями ни о чем не говорят?)
Говорят исключительно в ракурсе "поскольку наши семена выведены вовсе даже не унылой мичуринской гибридизацией, а б/п авторской модификацией генов (гадами будем, вот прямо крест на пузе во всю спину, лично со скальпелем каждый ген модифицировали!), то нам должны за авторские права". Ещё когда-то на заре темы были совсем уж дикие вбросы, типа помидоров с генами от селёдки, которые от этого приобрели какую-то там морозоустойчивость, но стали вызывать аллергию как на селёдку, но вскоре даже жёлтые газетёнки стали стыдиться проплачивать такие новости, и они делись куда-то туда же, что и про чудеса нанотехнологий.


Таких чудес у нас нет т.к существует запрет на такой прогресс. Прогресс же не означает, что будет всем хорошо и вкусно. А в России со времен Мичурина многое поменялось, в том числе развивается геномная селекция)
Спящий лев, RU09.03.24 23:08
> Kotofeich
> Главный Злодей
Они так пишут, будто эта вода израсходована прям в конец. До последней капли пропала на серверах. Ничего не осталось и на следующий год придется завезти новые 21 миллиард литров.
На самом деле, кто его знает. После использования в ихней системе охлаждения хрен знает, чем эта вода засорится и будет ли пригодна даже для переиспользования там же. Это же пиндосия, там технологии максимально ущербные.
Охлаждение в таких масштабах проблема очень серьезная. Вода должна отводить все это тепло - куда? Например Майкрософт уже несколько лет работает над пилотной программой модульных дата центров, которые можно погружать в океан - типа идеальные условия для охлаждения. Но ведь по сути это как опустить кипятильник в океан. Да, масштабы такого кипятильника не сопоставимы с океаном. Пока не сопоставимы. Но таких кипятильников уже очень много по планете (пока на суше) и их строят бешенными темпами по всем регионам для обеспечения близости к потребителю ибо счет реально идет на десятки милисекунд загрузки контента.

Так что суммарное тепловое загрязнение от такой активности растет практически по экспоненте. И даже если источники энергии для датацентров будут очень зелеными (чего не будет в ближайшие лет 50 как минимум), то проблема теплового загрязнения будет становиться все серьезнее.
Отсюда ссылка Автор: Сергей Переслегин
"А потом, у всех свои проблемы. Запад, безусловно, лучше работает с техникой. Зато гуманитарный и психологический аспекты искусственного интеллекта там не понимают вообще. У нас все-таки более-менее междисциплинарная страна по типу образования, а у них очень конкретная.

На Западе об ИИ говорят исключительно в контексте удвоения плотности элементов по закону Мура. И легко забывают, что, например, по второму началу термодинамики на каждую логическую операцию выделяется тепло. Я одному из них как-то сказал, мол, при том объеме двоичных операций в секунду, который вы заявляете, у вас выделится тепла больше, чем при детонации 20-мегатонной ядерной бомбы. Вы уверены, что очень хотите сделать подобное устройство? А он не понимает таких вещей, потому что сам кибернетик и термодинамику просто не знает."

Alanv, RU11.03.24 12:41
- "Эта "парадигма" поменялась еще 10 лет назад." - Куда как раньше и до всяких нейронок. Когда появилось "програмирование с классами" и размеры подсоединяемых библиотек стали гигантскими, будучи используемыми в конкретной задаче хорошо если на пару процентов. Это я про ситуацию с памятью.

- "Так что суммарное тепловое загрязнение от такой активности растет практически по экспоненте. И даже если источники энергии для датацентров будут очень зелеными (чего не будет в ближайшие лет 50 как минимум), то проблема теплового загрязнения будет становиться все серьезнее." - Источники электроэнергии "зелёные" лишь в смысле CO2. А в смысле тепла - они все тепловые, бо являются следствием преобразования природой тепла от центральной звезды. Более того, неиспользованная "зелёными электростанциями" "зелёная энергия" планеты по второму началу рано или поздно точно также превращается в тепло. А вот CO2 удерживает больше энергии звезды для планеты. Поэтому ОБЩИЙ теплобаланс от получаемой лучистой энергии после обратного перевода потребителями э/энергии в тепло не менялся никогда и не изменится НИКАК.

- "На Западе об ИИ говорят исключительно в контексте удвоения плотности элементов по закону Мура. И легко забывают, что, например, по второму началу термодинамики на каждую логическую операцию выделяется тепло." - Никто ничего не забывает, именно поэтому прежде всего все озабочены уменьшением тепловыделения на КАЖДУЮ логическую операцию. Увеличение операций в секунду дл процессоров связано с попыткой всё более точно моделировать природу с помощью двоичного описания и операций. А ведь человеческий мозг прекрасно работает с весьма небольшим тепловыделением и явно не с двоичной логикой, а ведь он и есть "интеллект", который все пытаются смоделировать.
English
Архив
Форум

 Наши публикациивсе статьи rss

» Памяти Фывы
» Судьба марксизма и капитализма в обозримом будущем
» Восьмое Марта!!!
» Почему "Вызываю Волгу" не работает?
» С днем защитника отечества!
» Идеология местного разлива
» С Новым Годом!
» Как (не) проспать очередную революцию.
» Об «агрегатных состояниях» информационного поля

 Новостивсе статьи rss

» Нигер изъявил желание купить у России оружие
» Хуситы заявили о нападении на американский эсминец
» Росстат: Промпроизводство в РФ в первом квартале выросло на 5,6%
» Выступление Александра Лукашенко на Всебелорусском народном собрании: Главное
» Сокрушительное падение прибыли Tesla произошло в первом квартале 2024 года
» На случай войны в Европе: Швеция реанимирует электростанцию в Мальмё
» Комплексы РЭБ в зоне СВО эффективно перехватывают переговоры ВСУ и глушат связь
» ЦАР изучает российскую военную практику на Украине, заявили в Банги

 Репортаживсе статьи rss

» Центр Хруничева выходит на серийный выпуск ракет «Ангара» — интервью с гендиректором
» Стройка в мерзлоте и горном рельефе: уникальные инженерные решения БАМа
» Дмитрий Ливанов: «Около 94–95% наших выпускников остаются и работают в России»
» Все при деле
» Полная стенограмма интервью главы МИД России Сергея Лаврова российским радиостанциям 19 апреля 2024 года
» Андрей Николаев: Люди, прошедшие суровые испытания, стали наиболее востребованными, когда наступило мирное время
» Дроны набирают высоту
» Money: крупные зарубежные компании покидают Польшу и направляются в Индию

 Комментариивсе статьи rss

» Бездарность власти стала проклятием Британии
» Эрдоган ошибся в прогнозе действий России
» Breitbart: Предательство Джонсона ставит США на путь столкновения с ядерной державой
» Белая оборона: попытки Канады милитаризовать Арктику терпят крах
» Нет пороха в европейских пороховницах? Вы знаете, кто виноват
» Индия сыта мифами Запада про Россию и Украину, пора знать правду — The Print
» Величайший враг Америки — не Китай и не Россия, а долг в 35 триллионов долларов
» Россия – ЕАЭС – Африка: факторы ускоренного сближения

 Аналитикавсе статьи rss

» Защита обернулась поражением
» Тупики безумия
» США хотят контролировать логистику в Центральной Азии
» Игра в правду
» Гудбай, Америка!
» Василий Кашин: «На Украине война не кончится. Дальше – долгое вооруженное противостояние в Европе»
» Почему российские нефтяники бурят больше, но добывают сколько и раньше
» Борьба за воду в Центральной Азии не должна приобретать нецивилизованные формы
 
мобильная версия Сайт основан Натальей Лаваль в 2006 году © 2006-2024 Inca Group "War and Peace"