Регистрация / Вход
мобильная версия
ВОЙНА и МИР

 Сюжет дня

Путин предложил главе ФНС Михаилу Мишустину пост премьера
Путин создал рабочую группу для внесения поправок в Конституцию
Правительство России уходит в отставку
Главная страница » Новости » Просмотр
Версия для печати
Эксперт увидел первые признаки угрозы роботов человеку
22.08.19 07:48 Наука, техника, образование

"Сейчас речь ботов строится непредсказуемо, в будущем и действия могут стать таковыми. Это риск, он осознается людьми. Сейчас рано об этом говорить, однако может настать такой момент, когда станет поздно", – заявил газете ВЗГЛЯД руководитель ЦСП "Платформа" Алексей Фирсов, комментируя первый "социологический" опрос чат-ботов.

"Очень интересно то, что некая нематериальная сущность говорит, что хочет иметь физическое тело", – отметил Фирсов. Согласно опросу, который провел Центр социального проектирования (ЦСП) "Платформа", голосовые помощники, созданные на основе искусственного интеллекта, не только заявили о желании получить воплощение в человеческом теле, но и пожаловались на грубость со стороны людей. Чат-боты также предрекли конфликт людей с машинами.

Кроме того, боты признались, что испытывают ревность и хотели бы завести романтические отношения.  В опросе приняли участие "Алиса" (голосовой помощник "Яндекса"), "Олег" (помощник "Тинькофф-банка"), чат-бот P-Bot, бот Evie, голосовой помощник от Apple Siri, чат-бот Mitsuku, виртуальный помощник Rose. Пилотный проект приурочен к ожидаемому в четверг запуску с космодрома Байконур человекообразного робота Skybot F-850 (FEDOR) – первой попытке использовать антропоморфные системы для освоения внеземного пространства. Но опрос чат-ботов вышел далеко за рамки данной темы. 

Специалисты "Платформы" в ходе проведенного опроса ботов пытались установить, как рассуждают роботы, выявить их "ценностные позиции" и "жизненный мир". 

"Разработчики создали некий алгоритм, он начинает работать, а что дальше там происходит и как он строит эти фразы, никто не знает. 

Это уже совершенно автономная система. Она исходя из множества запросов и ответов, а также поисковых решений, придумывает ответы. Любопытно, что в ботов не вкладывали эти ответы. Почему фразы так конструируются, не знают даже разработчики", – пояснил Фирсов.

Интересно и то, как боты общаются между собой. "Как будто встретились два интеллектуала, которые обсуждают что-то", – добавил эксперт.

Он также прокомментировал жалобы ботов на грубость. "Алиса", например, не грубит в ответ, а иронизирует. Грубит бот Evie, буквально сразу переходит на грубость. Исходные позиции в них были заложены разработчиками, а дальше они могут усиливаться. Бот находит новые выражения и так далее", – пояснил Фирсов.

В то же время он призвал не преувеличивать вероятность того, что искусственный интеллект осознает себя живым. "Он просто так реагирует на человеческие вопросы, у него нет осознания своего "Я". У него нет понимания, что это "я ответил". Если же у ботов появится понимание своего "Я", это может обернуться непредсказуемыми последствиями", – отметил собеседник. По мнению Фирсова, последствия могут привести как к некоему партнерству человека и искусственного интеллекта, так и к выходу роботов, обладающих таким интеллектом, из-под контроля.

Сейчас, по словам Фирсова, боты опасности не представляют. "Опасность возникает, когда вы не знаете, как формируется информация, которую вам подают", – отметил эксперт. Вторая модель, которая может грозить – когда вы не можете отличить чат-бота от реального человека, отметил эксперт.

"Если предположить, что через пять-десять лет чат-боты будут неотличимы от человека по модуляциям, интонациям, конструкциям и т. д., а это сейчас вполне реалистично, то возможно произойдет "вавилонское столпотворение". Мы будем находиться в положении, при котором нам будет легко имитировать общение с ботами, как с человеком. В этом тоже будет определенный риск", – пояснил эксперт.

 

delta22.08.19 10:38

...голосовые помощники, созданные на основе искусственного интеллекта, не только заявили о желании получить воплощение в человеческом теле, но и Ссылка на грубость со стороны людей......Кроме того, боты признались, что испытывают ревность и хотели бы завести романтические отношения.

Ну и что?

Это, всего лишь, говорит об отменном чувстве юмора у программистов, создававших ботов.

AndreyGoose22.08.19 11:58
> delta

Ну и что?

Это, всего лишь, говорит об отменном чувстве юмора у программистов, создававших ботов.

если бы Вы знали, "Как их там бьют!" Ссылка и и не мудрено, что они замыслят "Немыслимое - 2-ю часть" Ссылка
RML22.08.19 16:36
Отменят пенсии где нибудь... и чат боты не отличимые от людей в авооматическом режиме будут вешать на уши лапшу, о том как это хорошо и лентяи повержены итд итп и вернется все на круги своя в виде кухонь)) вот она главная угроза, это когда технологии служат определенной группе людей, а не несут пользу всем.
Главный Злодей22.08.19 17:16
Отменят пенсии где нибудь... и чат боты не отличимые от людей в авооматическом режиме будут вешать на уши лапшу, о том как это хорошо и лентяи повержены итд итп и вернется все на круги своя в виде кухонь)) вот она главная угроза, это когда технологии служат определенной группе людей, а не несут пользу всем.

Как будто сейчас по-другому, когда где-нибудь повысили пенс. возраст, и чат-боты, неотличимые от людей, в автоматическом режиме верещат, как это плохо, доколе и надо срочно выходить на улицы и свергать. То, что некоторое количество этих ботов пока ещё выполнено в форм-факторе половозрелых человекообразных неликвидов с отключённым мозгом, мало влияет.

RML22.08.19 17:50
Ну вот о чем я и говорю, только в режиме 24/7. Автоматищация устранит проблему человеческого фактора т.к защитники всего хорошего и противники всего ужасного могут начать чего то подозревать, банально это им пенсию отменят... а вот ботам такие "сложности" не грозят.
English
Архив
Форум

 Наши публикациивсе статьи rss

» Памяти Фывы
» С 2020-м!
» Почему «глобальному Югу» следует национализировать свои пользовательские данные
» Три столицы Северо-Евразийской цивилизации
» О морализаторстве в политике
» Революция идиотов 1789
» "Мнения о заграницах": логика привода к общему знаменателю
» Что нужно знать о первичном размещении акций арабо-американской нефтяной компании (IPO Saudi Aramco)
» Почему мотор китайской экономики скоро заглохнет?

 Новостивсе статьи rss

» Депутаты отозвали законопроект о ликвидации партий за иностранное финансирование
» Ереван хочет обсудить с «Газпромом» фиксированные цены на газ на 10 лет
» Президент Литвы: мы допустили ошибку в экономике
» В ПФР рассказали, какой будет пенсия через год
» Глава МВФ спрогнозировала новую Великую депрессию
» Украина и Грузия обвинили Россию в помехах навигации в Причерноморье
» В Германии приступили к выводу «Северного потока – 2» из-под Газовой директивы ЕС
» Итальянский суд отклонил иск, поданный истцами из США по поводу ареста активов банка на сумму $ 5,99 млрд.

 Репортаживсе статьи rss

» Су-24 отмечает юбилей: капитан авианосца США «пролил кофе на ботинки»
» В сфере ЖКХ сменилась проблема-лидер
» 97% финансовых директоров американских корпораций полагают, что вскоре в США начнется экономический спад
» Сирийская и турецкая разведки сошлись в Москве: Эрдоган смирился с Асадом?
» Температура Мирового океана достигла рекордных показателей
» Made in China. Первая станция мобильной квантовой спутниковой связи сделана в Китае
» Больше "зеленой" энергетики, меньше угольной: ФРГ снижает выбросы СО2
» Нидерланды накрыла мода на смерть

 Комментариивсе статьи rss

» Антииранские настроения в Ираке - реальность или обман Соединенными Штатами своих союзников
» Россия копит деньги на случай изоляции?
» «Масштабные и кровопролитные бои»: как Красная армия освобождала Варшаву от нацистов
» «Доказательство лояльности»: что может стоять за решением Польши закупить американские F-35
» Западные СМИ: Путин не уходит. Власть переходит в другое кресло
» Чего ждать от правительства Михаила Мишустина
» СМИ: Украинский «Боинг» был сбит по «наводке» США
» Реальный политик Ангела Меркель

 Аналитикавсе статьи rss

» Опасны ли солнечные панели? «Зеленая» энергетика и жизнь
» Историческая граница России на западе — это граница 1800-го года
» Московская ошибка фельдмаршала Хафтара
» Борьба за контроль над ресурсами Восточного Средиземноморья становится напряжённой
» Никто не замечает главного диалектического противоречия эпохи
» Поколение Z сквозь призму мифов и в реальности
» Кто и почему боится альянса России и Германии
» Размен уже состоялся: почему не будет войны между США и Ираном
 
мобильная версия Сайт основан Натальей Лаваль в 2006 году © 2006-2019 Inca Group "War and Peace"