На площадке Экспертного клуба представители Татарстана обсудили потенциальные риски внедрения технологий искусственного интеллекта и пути их решения. Поводом послужило выступление президента России Владимира Путина на пленарной сессии дискуссионного клуба «Валдай».

Позиция Игоря Бикеева

Первый проректор и проректор по научной работе Казанского инновационного университета, депутат Государственного Совета РТ Игорь Бикеев сравнил искусственный интеллект с могущественным джинном, выпущенным на свободу. Доктор юридических наук выделил три ключевые проблемы, требующие решения:

  • определение ответственности за действия ИИ и их последствия — её должен нести человек (разработчик, владелец или иное лицо);
  • необходимость чёткого просчёта результатов применения ИИ-систем;
  • недопустимость утраты людьми познавательных и мыслительных способностей в результате применения ИИ.

Также Бикеев напомнил о взаимном недоверии государств и бизнес-составляющей, которая может привести к росту стоимости ИИ-сервисов.

«Главное — научиться эффективно и предельно рационально пользоваться искусственным интеллектом во благо людей и России, а также обезопасить себя от связанных с ним рисков», — уверен он.

Взгляд Антона Глухова

Руководитель исследовательского агентства Антон Глухов отметил, что ИИ затрагивает экономику, рынок труда, образование, управление, безопасность и представления о роли человека. По его оценке, речь идёт о переменах исторического характера, сопоставимых с возникновением письменности, книгопечатанием или промышленной революцией. Эксперт выразил уверенность, что правильнее говорить не о массовом исчезновении профессий, а о радикальном изменении набора задач внутри них.

«Я достаточно осторожно отношусь и к катастрофическим, и к чрезмерно оптимистичным прогнозам. Сегодня у нас просто недостаточно данных, чтобы уверенно сказать, какой из сценариев окажется ближе к действительности. Но на пути улучшения технологий ИИ человечество уже не остановить», — убеждён Глухов.

Ключевые риски

Специалист выделил несколько опасностей:

  • оптимизация человеческих ресурсов — бизнес видит в ИИ возможность сокращать затраты на персонал;
  • галлюцинации ИИ и воспроизведение ошибочной информации;
  • использование технологий злоумышленниками;
  • ситуация, когда человек перестает проверять рекомендации системы из-за привычки доверять машине.

Глухов призвал к максимизации человеческого контроля, росту прозрачности при взаимодействии с ИИ и системному обучению людей навыкам использования соответствующих технологий.

Успехи Татарстана

В республике создана единая база более чем из 12 млн электронных ЭКГ. Система с применением искусственного интеллекта ежедневно помогает выявлять около 600 патологий.

«Здесь особенно хорошо видно правильное распределение ролей: алгоритм способен быстро проанализировать огромный массив данных и обратить внимание врача на возможную проблему, но окончательное медицинское решение остается за специалистом», — добавил он.

Позиция Алексея Лопатина

Кандидат технических наук, заведующий кафедрой реактивных двигателей и энергетических установок КНИТУ-КАИ Алексей Лопатин сосредоточился на проблемах высшего образования. По его оценке, применение ИИ состоявшимися специалистами позволяет усилить и ускорить результат, а в руках посредственности тот же инструмент может принести проблемы. Обучение ИИ представляет собой один из самых дорогостоящих моментов этого процесса.

«К сожалению, возраст преподавателей зачастую не позволяет им сразу же свободно пользоваться возможностями ИИ. Думаю, необходимо активно вовлекать и обучать наш учительский и профессорско-преподавательский состав основам профессионального применения ИИ», — призвал Лопатин.

Исследователь отметил, что дети владеют технологиями использования ИИ более уверенно, чем значительная часть взрослого населения. По его мнению, преподаватели должны не отставать, а обгонять молодёжь в прикладных компетенциях.

«В ином случае прямое регулирование работы ИИ в запретительном контексте приведет, по моему мнению, к стагнации в образовании», — резюмировал Алексей Лопатин.

Будущее человека в эпоху ИИ

Антон Глухов подытожил, что важным преимуществом человека станет не способность конкурировать с машиной в скорости обработки информации, а умение ставить задачи, критически оценивать результат, понимать контекст, брать на себя ответственность и принимать решения там, где одного алгоритма недостаточно.