Искусственному интеллекту нельзя пока доверять по простой причине: он еще не появился. Сейчас искусственным интеллектом мы называем алгоритмы машинного обучения. Если же рассматривать вопросы доверия к алгоритмам машинного обучения, то ответ сильно зависит от совершенства технологий в конкретной отрасли и последствий возможной ошибки, рассказал агентству «Прайм» руководитель центра компетенций Big Data компании «Рексофт» Сергей Назаренко.
«Мы достаточно легко доверяем ИИ в вопросах обработки фото для Instagram или интеллектуальным фильтрам в Photoshop. Никого не пугает передвижение на автомобилях с АБС и ESP — и они нам чаще всего помогают справляться с трудными ситуациями на дороге. В автомобильных помощниках редко используется ИИ, но задействованы достаточно сложные алгоритмы обработки сигналов с датчиков», — добавил эксперт. Первичное решение о выдаче кредита и его условия также довольно часто принимает ИИ.
«Однако пока мы не готовы к тому, что ИИ начнет ставить нам медицинский диагноз, управлять атомной электростанцией или нашим автомобилем», — указал Назаренко.
По его словам, смещенная выборка (bias) влияет на людей, которые пользуются системами ИИ, и мы ничего не можем с этим сделать. «Наша планета заселена неравномерно, доходы и деловая активность также распределены неравномерно. Все эти факторы несомненно влияют на людей: их образ жизни, предпочтения и привычки», — говорит эксперт.
ИИ приходится учитывать много объективных различий окружающей действительности в своей работе, но гиперперсонализация несет за собой риски формирования локальных «пузырей» вокруг индивида, его отрыва от социума и искажение окружающей действительности.
Например, все ваши новые друзья в Facebook на 100% разделяют ваши взгляды, а в рекомендациях товаров появляется только то, что вам действительно нужно, нравится и вы можете себе это позволить.
«Другая часть реальности становится для вас, как темная стороны Луны, которую вы не можете увидеть без существенных усилий», — подытожил эксперт.
