Регистрация / Вход
текстовая версия
ВОЙНА и МИР

 Сюжет дня

Памяти Фывы
Главная страница » Новости » Просмотр
Версия для печати
Эксперт увидел первые признаки угрозы роботов человеку
22.08.19 07:48 Наука, техника, образование

"Сейчас речь ботов строится непредсказуемо, в будущем и действия могут стать таковыми. Это риск, он осознается людьми. Сейчас рано об этом говорить, однако может настать такой момент, когда станет поздно", – заявил газете ВЗГЛЯД руководитель ЦСП "Платформа" Алексей Фирсов, комментируя первый "социологический" опрос чат-ботов.

"Очень интересно то, что некая нематериальная сущность говорит, что хочет иметь физическое тело", – отметил Фирсов. Согласно опросу, который провел Центр социального проектирования (ЦСП) "Платформа", голосовые помощники, созданные на основе искусственного интеллекта, не только заявили о желании получить воплощение в человеческом теле, но и пожаловались на грубость со стороны людей. Чат-боты также предрекли конфликт людей с машинами.

Кроме того, боты признались, что испытывают ревность и хотели бы завести романтические отношения.  В опросе приняли участие "Алиса" (голосовой помощник "Яндекса"), "Олег" (помощник "Тинькофф-банка"), чат-бот P-Bot, бот Evie, голосовой помощник от Apple Siri, чат-бот Mitsuku, виртуальный помощник Rose. Пилотный проект приурочен к ожидаемому в четверг запуску с космодрома Байконур человекообразного робота Skybot F-850 (FEDOR) – первой попытке использовать антропоморфные системы для освоения внеземного пространства. Но опрос чат-ботов вышел далеко за рамки данной темы. 

Специалисты "Платформы" в ходе проведенного опроса ботов пытались установить, как рассуждают роботы, выявить их "ценностные позиции" и "жизненный мир". 

"Разработчики создали некий алгоритм, он начинает работать, а что дальше там происходит и как он строит эти фразы, никто не знает. 

Это уже совершенно автономная система. Она исходя из множества запросов и ответов, а также поисковых решений, придумывает ответы. Любопытно, что в ботов не вкладывали эти ответы. Почему фразы так конструируются, не знают даже разработчики", – пояснил Фирсов.

Интересно и то, как боты общаются между собой. "Как будто встретились два интеллектуала, которые обсуждают что-то", – добавил эксперт.

Он также прокомментировал жалобы ботов на грубость. "Алиса", например, не грубит в ответ, а иронизирует. Грубит бот Evie, буквально сразу переходит на грубость. Исходные позиции в них были заложены разработчиками, а дальше они могут усиливаться. Бот находит новые выражения и так далее", – пояснил Фирсов.

В то же время он призвал не преувеличивать вероятность того, что искусственный интеллект осознает себя живым. "Он просто так реагирует на человеческие вопросы, у него нет осознания своего "Я". У него нет понимания, что это "я ответил". Если же у ботов появится понимание своего "Я", это может обернуться непредсказуемыми последствиями", – отметил собеседник. По мнению Фирсова, последствия могут привести как к некоему партнерству человека и искусственного интеллекта, так и к выходу роботов, обладающих таким интеллектом, из-под контроля.

Сейчас, по словам Фирсова, боты опасности не представляют. "Опасность возникает, когда вы не знаете, как формируется информация, которую вам подают", – отметил эксперт. Вторая модель, которая может грозить – когда вы не можете отличить чат-бота от реального человека, отметил эксперт.

"Если предположить, что через пять-десять лет чат-боты будут неотличимы от человека по модуляциям, интонациям, конструкциям и т. д., а это сейчас вполне реалистично, то возможно произойдет "вавилонское столпотворение". Мы будем находиться в положении, при котором нам будет легко имитировать общение с ботами, как с человеком. В этом тоже будет определенный риск", – пояснил эксперт.

 

delta22.08.19 10:38

...голосовые помощники, созданные на основе искусственного интеллекта, не только заявили о желании получить воплощение в человеческом теле, но и пожаловались на грубость со стороны людей......Кроме того, боты признались, что испытывают ревность и хотели бы завести романтические отношения.

Ну и что?

Это, всего лишь, говорит об отменном чувстве юмора у программистов, создававших ботов.

AndreyGoose22.08.19 11:58
> delta


Ну и что?

Это, всего лишь, говорит об отменном чувстве юмора у программистов, создававших ботов.

если бы Вы знали, "Как их там бьют!" Ссылка и и не мудрено, что они замыслят "Немыслимое - 2-ю часть" Ссылка
RML22.08.19 16:36
Отменят пенсии где нибудь... и чат боты не отличимые от людей в авооматическом режиме будут вешать на уши лапшу, о том как это хорошо и лентяи повержены итд итп и вернется все на круги своя в виде кухонь)) вот она главная угроза, это когда технологии служат определенной группе людей, а не несут пользу всем.
Главный Злодей22.08.19 17:16
Отменят пенсии где нибудь... и чат боты не отличимые от людей в авооматическом режиме будут вешать на уши лапшу, о том как это хорошо и лентяи повержены итд итп и вернется все на круги своя в виде кухонь)) вот она главная угроза, это когда технологии служат определенной группе людей, а не несут пользу всем.

Как будто сейчас по-другому, когда где-нибудь повысили пенс. возраст, и чат-боты, неотличимые от людей, в автоматическом режиме верещат, как это плохо, доколе и надо срочно выходить на улицы и свергать. То, что некоторое количество этих ботов пока ещё выполнено в форм-факторе половозрелых человекообразных неликвидов с отключённым мозгом, мало влияет.

RML22.08.19 17:50
Ну вот о чем я и говорю, только в режиме 24/7. Автоматищация устранит проблему человеческого фактора т.к защитники всего хорошего и противники всего ужасного могут начать чего то подозревать, банально это им пенсию отменят... а вот ботам такие "сложности" не грозят.
English
Архив
Форум

 Наши публикациивсе статьи rss

» Памяти Фывы
» В МИД Украины заявили о подготовке пакета предложений для жителей Донбасса
» Авторитаризм в Великобритании: попытка Джонсона уничтожить демократию
» Каково же современное лицо армии США?
» Отчёт на 7-е июля 2019 года
» Объявление
» Обрушит ли автомобильный кризис в Китае глобальные финансовые рынки?
» Небольшой отчёт по первой неделе работы новой команды
» Переходный период

 Новостивсе статьи rss

» Почти 50 тысяч сотрудников General Motors начали забастовку в США
» Россия развернула С-400 в Арктике
» Цены на нефть взлетели на 10% на фоне снижения добычи в Саудовской Аравии
» Россия и Белоруссия договорились о единых налогах
» Украина заложила в проект бюджета на 2020 год почти $10 млрд на оборону
» В России стартуют стратегические военные учения "Центр-2019"
» Делегация РФ обсудила с Асадом формирование Конституционного комитета Сирии
» Иран планирует поставлять природный газ в Европу по трубопроводам на территории Турции

 Репортаживсе статьи rss

» Скорость реакции
» Ливия сегодня: как Берлин поможет урегулировать конфликт
» Посол РФ в Албании поставил на место своего польского коллегу
» Бригады ненависти: тревожная стабильность американских нацистов
» Иран: от санкций страдают дети
» Профессор КФУ сравнил минобрнауки с похоронным бюро, а университеты - с хосписами
» Завершилась открытая часть заседания ЕСПЧ по нарушениям Россией прав человека в Крыму
» “Газпром” активизирует разведку ради Китая

 Комментариивсе статьи rss

» Почему Китай не Европа
» Россия обойдет решение суда ЕС с помощью новой политики продаж "Газпрома"
» В Госдепе зреют признаки распада американского государства
» Дипломатия "под настроение".
» Нелегалов выгоняют из леса
» В Госдуме раскритиковали исполнение правительством нацпроектов
» Евросоюз в условиях к газовому договору России и Украины нарушил свои же правила
» Накануне переговоров с Киевом: суд ЕС запретил доступ ко всем мощностям OPAL

 Аналитикавсе статьи rss

» Теракт в Саудовской Аравии заставит мир переоценить нефтегазовые контракты с Россией
» США сделали непоправимую ошибку, поссорившись с РФ, КНР и Ираном
» Как Россия собирается сбивать истребители-невидимки F-35 и F-22
» Александр Роджерс: стратегии Китая и США
» Аграрный экспорт в Китай: успехи есть - головокружение преждевременно
» Сланцевая Фата-Моргана тает на глазах американских элит
» Чехия вступает в схватку за Закарпатье
» Пекин добрался до ядерного реактора Израиля
 
текстовая версия Сайт основан Натальей Лаваль в 2006 году © 2006-2019 Inca Group "War and Peace"