Люди не доверяют ИИ. Как это исправить? - 16 Января 2018 - DigiPortalNews.ru
Среда, 21.02.2018, 02:09




ГЛАВНЫЕ НОВОСТИ

ДРАЙВЕРЫ

РУБРИКИ
Накопители [693]
Платформа [1149]
Фото и Видео [176]
Мобильные устройства [2935]
Гаджеты [53]
Разное [473]
Видеокарты [869]
Процессоры [697]
Безопасность [49]
Охлаждение [225]
Наука и техника [194]
Технологии [113]
Интересное [187]
Оперативная память [252]
Акустика [143]
Звук [119]
Принтеры и факсы [41]
Корпуса и БП [310]
Софт [129]
Навигация [43]
Новости компаний [139]
Мониторы [441]
Аналитика [45]
Авто [11]
Обзоры [20]
Сети и Интернет [11]
НОУТБУКИ

Люди не доверяют ИИ. Как это исправить?


Добавлено: 16.01.2018 в 20:18

80

искусственный интеллект, технологии


Искусственный интеллект уже может предсказывать будущее. Полиция использует его для составления карты, отражающей, когда и где может произойти преступление. Врачи используют его для прогнозирования, когда у пациента может случиться инсульт или сердечный приступ. Ученые даже пытаются дать ИИ воображение, чтобы он мог предвидеть неожиданные события.

 

 

Многие решения в нашей жизни требуют хороших прогнозов, и агенты ИИ почти всегда лучше справляются с ними, чем люди. Тем не менее для всех этих технологических достижений нам по-прежнему не хватает уверенности в прогнозах, которые дает искусственный интеллект. Люди не привыкли полагаться на ИИ и предпочитают доверять экспертам в лице людей, даже если эти эксперты ошибаются.

Если мы хотим, чтобы искусственный интеллект нес пользу людям, нам нужно научиться доверять ему. Для этого нам нужно понять, почему люди так настойчиво отказываются доверять ИИ.

Доверьтесь доктору Роботу

Попытка IBM представить суперкомпьютерную программу врачам-онкологам (Watson for Oncology) стала провальной. ИИ обещал предоставить высококачественные рекомендации по лечению 12 видов рака, на долю которых приходится 80% случаев в мире. На сегодняшний день более 14 000 пациентов получили рекомендации на основании его расчетов.

Но когда врачи впервые столкнулись с Watson, они оказались в довольно сложной ситуации. С одной стороны, если Watson давал указания относительно лечения, совпадающие с их собственными мнениями, медики не видели большой ценности в рекомендациях ИИ. Суперкомпьютер просто рассказывал им то, что они уже знали, и эти рекомендации не меняли фактического лечения. Это, возможно, давало врачам спокойствие и уверенность в собственных решениях. Но IBM еще не доказала, что Watson действительно увеличивает процент выживаемости с раком.

 

 

С другой стороны, если Watson давал рекомендации, которые расходились с мнением экспертов, врачи заключали, что Watson некомпетентен. И машина не могла объяснить, почему ее лечение должно сработать, потому что ее алгоритмы машинного обучения были слишком сложными, чтобы их могли понять люди. Соответственно, это приводило к еще большему недоверию, и многие врачи просто игнорировали рекомендации ИИ, полагаясь на собственный опыт.

В результате главный медицинский партнер IBM Watson — MD Anderson Cancer Center — недавно сообщил об отказе от программы. Датская больница также сообщила, что отказывается от программы после того, как обнаружила, что врачи-онкологи не согласны с Watson в двух случаях из трех.

Проблема онкологического Watson была в том, что врачи ему просто не доверяли. Доверие людей часто зависит от нашего понимания того, как думают другие люди, и собственного опыта, укрепляющего уверенность в их мнении. Это создает психологическое чувство безопасности. ИИ же, с другой стороны, относительно новая и непонятная для людей штука. Он принимает решения, основываясь на сложной системе анализа для выявления потенциальных скрытых закономерностей и слабых сигналов, вытекающих из больших объемов данных.

Даже если его можно объяснить техническим языком, процесс принятия решений ИИ, как правило, слишком сложный, чтобы его могли понять большинство людей. Взаимодействие с чем-то, чего мы не понимаем, может вызвать тревогу и создать ощущение утраты контроля. Многие люди попросту не понимают, как и с чем работает ИИ, потому что это происходит где-то за ширмой, в фоновом режиме.

По этой же причине они острее подмечают случаи, когда ИИ ошибается: вспомните алгоритм Google, который классифицирует цветных людей как горилл; чатбот Microsoft, который стал нацистом менее чем за день; автомобиль Tesla, работающий в режиме автопилота, в результате которого произошел несчастный случай со смертельным исходом. Эти неудачные примеры получили непропорционально большое внимание средств массовой информации, подчеркивающих повестку того, что мы не можем полагаться на технологии. Машинное обучение не является на 100% надежным, отчасти потому что его проектируют люди.

Раскол общества?

Чувства, которые вызывает искусственный интеллект, уходят глубоко в природу человеческого существа. Недавно ученые провели эксперимент, в ходе которого опросили людей, смотревших фильмы про искусственный интеллект (фантастические), на тему автоматизации в повседневной жизни. Выяснилось, что независимо от того, был ИИ в фильме изображен в позитивном или негативном ключе, простой просмотр кинематографического представления нашего технологического будущего поляризует отношения участников. Оптимисты становятся еще более оптимистичными, а скептики закрываются еще сильнее.

Это говорит о том, что люди предвзято относятся к ИИ, отталкиваясь от собственных рассуждений, такова глубоко укоренившаяся тенденция предвзятого подтверждения: тенденция искать или интерпретировать информацию таким образом, чтобы подтвердить заранее имевшиеся концепции. Поскольку ИИ все чаще мелькает в медиа, это может способствовать глубокому разделению общества, расколу между теми, кто пользуется ИИ, и теми, кто его отвергает. Преобладающая группа людей может получить серьезное преимущество или гандикап.

Три выхода из кризиса доверия ИИ

К счастью, у нас есть мысли на тему того, как справиться с доверием к ИИ. Одно только наличие опыта работы с ИИ может значительно улучшить отношение людей к этой технологии. Есть также свидетельства, указывающие на то, что чем чаще вы используете определенные технологии (например, Интернет), тем больше вы им доверяете.

Другое решение может заключаться в том, чтобы открыть «черный ящик» алгоритмов машинного обучения и сделать их работу более прозрачной. Такие компании, как Google, Airbnb и Twitter, уже публикуют отчеты прозрачности о государственных запросах и раскрытии информации. Подобная практика в системах ИИ поможет людям получить нужное понимание того, как алгоритмы принимают решения.

Исследования показывают, что вовлечение людей в процесс принятия решений ИИ также повысит степень доверия и позволит ИИ учиться на человеческом опыте. Исследование показало, что люди, которым давали возможность слегка модифицировать алгоритм, чувствовали большую удовлетворенность от результатов его работы, по всей видимости, из-за чувства превосходства и возможности влиять на будущий исход.

Нам необязательно понимать сложную внутреннюю работу систем ИИ, но если предоставить людям хотя бы немного информации и контроля над тем, как эти системы реализуются, у них появится больше доверия и желания принять ИИ в повседневную жизнь.

 

© Hi-News


ОСТАВИТЬ СВОЙ КОММЕНТАРИЙ
Всего комментариев: 0
avatar
ГЛАВНОЕ ЗА НЕДЕЛЮ

ОСТАЛЬНЫЕ НОВОСТИ >>>

[ Все новости ] Архив новостей

НАУКА И ТЕХНОЛОГИИ

КОМПЬЮТЕРНАЯ СБОРКА

Компьютер месяца — февраль 2018 года

Игровые компьютеры живее всех живых! Аналитики компании Jon Peddie Research (JPR) рапортуют о рекордных продажах техники для геймеров. По оценкам специалистов, в 2016 году траты на компьютеры, комплектующие и периферию впервые достигли отметки 30 млрд долларов США. 43% от обозначенной суммы приходится на топовое игровое оборудование. В приведенные данные очень даже верится, ведь производители видеокарт — AMD и NVIDIA — тоже бьют рекорды. Читать дальше...


Компьютер месяца — октябрь 2017 года

Кто знает, если бы не AMD со своими процессорами Ryzen, то, возможно, сейчас мы опять обсуждали бы очередные четырехъядерники Intel. Однако, господа присяжные заседатели, лед тронулся: впервые для массовой платформы крупнейший чипмейкер выпустил шестиядерные модели Core i5-8400 и Core i5-8600K (без поддержки технологии Hyper-Threading), а также Core i7-8700 и Core i7-8700K (с поддержкой Hyper-Threading). Читать дальше...


Компьютер месяца — сентябрь 2017 года

Противостояние AMD и Intel на рынке настольных центральных процессоров завораживает сильнее, чем последний сезон «Игры престолов». Наконец-то во всех сегментах наблюдается здоровая конкуренция, а потому перед покупкой комплектующих придется хорошенько поломать голову, на чью же сторону в итоге перейти. Уверены, сделать правильный выбор поможет наша ежемесячная рубрика Читать дальше...


Компьютер месяца — июль 2017 года

Дефицит графических ускорителей наблюдается не только в России. Заказать видеокарту уровня GeForce GTX 1060 и выше проблематично даже в США и Европе. Некоторые популярные онлайн-магазины принимают заказы, но со всей ответственностью сообщают о том, что точная дата поступления товара в продажу неизвестна. Я тоже не знаю, сколько еще продлится это безумие, поэтому могу предложить только одно: ждать. Читать дальше...


Компьютер месяца — июнь 2017 года

В команде Intel замена — вместо платформы LGA2011-v3 на поле выходит молодой, но амбициозный игрок под названием LGA2066. Конечно, процессоры Haswell-E и Broadwell-E, а также материнские платы на чипсете X99 Express еще какое-то время будут продаваться, однако при наличии более современных и доступных решений нет смысла смотреть в сторону неактуальной платформы. Читать дальше...


КАЛЕНДАРЬ НОВОСТЕЙ
«  Январь 2018  »
ПнВтСрЧтПтСбВс
1234567
891011121314
15161718192021
22232425262728
293031
ПОПУЛЯРНОЕ ЗА МЕСЯЦ

ПОДПИСКА НА НОВОСТИ
Новости цифровых технологий, науки и техники
Подписаться письмом
СМАРТФОНЫ И ПЛАНШЕТЫ