Искусственный интеллект тоже ошибается

ТОП-6 ошибок ИИ: какие-то из них оказались смешными, а некоторые — фатальными.

В конце февраля глава «Сбербанка» Герман Греф рассказал, что из-за ошибок искусственного интеллекта (ИИ) банк «потерял миллиарды рублей». В чём именно заключались провалы ИИ Греф не уточнил, но позже в пресс-службе банка пояснили, что речь идёт не о прямых убытках, а скорее о недополученной прибыли. На фоне этого заявления главы «Сбербанка» forbes составил список самых громких «фейлов» ИИ.

1. Расистский ИИ

В 2017 году компания Amazon закрыла трёхлетний экспериментальный проект по найму сотрудников на основе ИИ из-за обнаруженной гендерной дискриминация кандидатов — алгоритм занижал оценки кандидатов-женщин, поскольку был обучен на прошлом десятилетнем опыте отбора кандидатов в компании, среди которых преобладали мужчины. А иногда алгоритм и вовсе выдавал практически случайные результаты.

2.Дискриминирующий ИИ

Применение «умных» алгоритмов в рекламных инструментах Facebook привело к появлению предложений по группировке целевых аудиторий на основе такого признака, как антисемитизм. В 2016 году президенту Microsoft Research Питер Ли (Peter Le) извинился за чат-бота Тау, который менее чем за сутки общения с пользователями Twitter научился расистским высказываниям. Проект в итоге приостановили.

3.Опасный для жизни ИИ

Весной 2018 года во время тестов беспилотных автомобилей Uber в американском городе Темпе (Аризона) машина в режиме автопилота сбила насмерть велосипедистку. Тестирование автономного авто проводилось при сниженной чувствительности к распознанным опасным объектам, чтобы избежать ложных срабатываний, и система не смогла распознать женщину с велосипедом, переходившую дорогу в неположенном месте со слабым освещением. С беспилотными автомобилями Tesla произошло уже два смертельных ДТП— в 2016 и 2018 годах.

4. Спешащий с выводами ИИ

Власти Китая активно используют системы распознавания лиц для борьбы с правонарушениями. Например, они отслеживают пешеходов, нарушающих правила перехода дорог, и затем публикуют их имена и фото на специальных «позорных» табло, предупреждая о последствиях. В число нарушителей по ошибке попала топ-менеджер из списка 100 самых влиятельных женщин по версии Forbes Дун Минчжу (Dong Mingzhu). Дело в том, что ИИ считал её изображение на автобусе в рекламном постере и посчитал, что женщина лично присутствовала на улице.

В 2016 году гражданину азиатского происхождения Ричарду Ли робот отказал в приёме документов на получение паспорта Новой Зеландии, посчитав, что на фотографии его глаза закрыты.

5. ИИ — посредственный врач

IBM изучает вопросы применения ИИ для поддержки принятий врачебных решений. Суперкомпьютер Watson помогал медикам в процессе лечения онкологических заболеваний в исследовательских лабораториях и медицинских центрах по всему миру. Через три года после старта продаж этого суперкомпьютера, летом 2018 года, медицинское издание STAT выяснило, что он не соответствует завышенным ожиданиям. Оказалось, что Watson зачастую давал ошибочные, а иногда опасные для жизни рекомендации по выбору метода лечения. Эксперты IBM предполагают, что некоторые ошибки суперкомпьютера обусловлены методикой его обучения, которая базировалась не на реальных клинических случаях, а «синтетических» моделях.

6. ИИ — роботы недотёпы

Робот для управления умным домом Cloi от компании LG на выставке CES 2018 не смог продемонстрировать, как искусственный интеллект сможет улучшить использование приборов на кухне. Директор по маркетингу LG задал роботу 3 команды, однако тот его попросту не понял.

В 2017 году робот Mitra не смог чётко поприветствовать советника Белого дома Иванку Трамп (Ivana Marie Trump) и премьер-министра Индии Нарендру Моди (Narendra Damodardas Modi) на открытии Global Entrepreneurship Summit. Из-за того, что высокопоставленные гости саммита нажали кнопки со своими флагами одновременно, а не по очереди, и робот запнулся на полуслове.

Компания Boston Dynamics выпустила гуманоидного робота Atlas, который может заниматься паркуром, двигать предметы и т. д. Андроид удачно показал свои возможности на Congress of Future Scientists and Technologists, но, уходя со сцены, неловко споткнулся о занавес и упал.

Об ошибках ИИ в России сообщается неохотно, хотя результаты опроса, проведённого экспертами Microsoft свидетельствуют, что наша страна лидирует по активному внедрению искусственного интеллекта. Так, опрос показал, что около 30% российских руководителей активно внедряют искусственный интеллект, в то время как в среднем в мире этот показатель равен 22,3 %, а, к примеру, во Франции — лишь 10 %.

Понравилась ли Вам статья?