Айтишники России и Германии обсудили, как обеспечить контроль ИИ
25 Июня 2021

Российские и немецкие специалисты в области информационных технологий в рамках воркшопа «Искусственный интеллект и право» обсудили ряд актуальных проблем, связанных с использованием ИИ в разных сферах человеческой жизни. Среди затронутых тем – использование ИИ в медицинских технологиях, банковской сфере, судопроизводстве и других отраслях. Томский государственный университет стал единственным из двух стран вузом, который презентовал свой опыт по подготовке специалистов, занимающихся разработкой искусственного интеллекта.

В рабочей встрече участвовали департамент экономики и науки посольства Германии в Москве; ведущие университеты РФ и Германии: ТГУ, ВШЭ, ННГУ им. Н.И. Лобачевского, Высшая техническая школа Ингольштадта, Восточно-Баварский технический университет и другие; крупные российские и немецкие компании: ПАО «Сбербанк», ПАО «Камаз», ряд компаний из Баварии.

– Искусственный интеллект – как технология, которая уже стала зрелой – всё больше проникает в жизнь человека, во все её сферы, от интернета вещей до рынка труда и медицины. В связи с этим возникает необходимость регулирования ИИ, – объясняет директор Института прикладной математики и компьютерных наук ТГУ Александр Замятин. – Основной проблемой, актуальность которой возрастает по мере развития IT-технологий, является объяснимость Искусственного интеллекта. При всей эффективности решений, которые генерируют сложные нейросети, правила получения этих решений непрозрачны. Это вызывает определённую настороженность и служит сдерживающим механизмом для развития ИИ. Способы решения этой проблемы стали основной темой дискуссии специалистов.

Замятин АВ.jpg

Наряду с этим использование ИИ порождает массу юридических вопросов, например, кто должен нести ответственность – разработчик или владелец технической системы в том случае, если ошибка искусственного интеллекта приведёт к нежелательным последствиям для человека – травме, утрате имущества.

– В настоящее время, как правило, полностью на откуп ИИ ничего не отдаётся, – отмечает Александр Замятин. – Пока его использование идёт по принципу «доверяй, но проверяй», то есть любое значимое решение, например, в диагностике, после ИИ всегда проверяет эксперт с большим опытом. Но по мере развития технологий необходимость в регулировании искусственного интеллекта, робототехники, беспилотного транспорта, оборота больших данных, используемых ИИ, будет стремительно расти. Поэтому международное IT-сообщество совершенно справедливо поднимает эту проблему и пытается её решить уже сейчас.

Чтобы создавать новые эффективные, но вместе с тем прозрачные алгоритмы решений для ИИ, необходимы специалисты высокого класса. Их подготовка – новое направление, которое в России и за рубежом начало развиваться лишь в последние годы. Томский госуниверситет стал одним из первых российских вузов, запустивших магистерскую программу «Интеллектуальный анализ больших данных» – для подготовки специалистов, способных не только использовать, но и создавать новые технологии и инструменты в области ИИ. В 2020 году появилась и программа для подготовки бакалавров – «ИИ и разработка программного обеспечения».

В ходе воркшопа наряду с образовательными программами ТГУ презентовал свои наработки в области ИИ на уровне научных исследований и инноваций. Так, в науке университет специализируется на применении ИИ в разработке технологий для медицинской диагностики, для social media и «Индустрии 4.0». Учёные с помощью анализа больших данных извлекают из этой среды фундаментальные знания, которые ложатся в основу новых технологий ИИ.

В частности, в ходе российско-немецкого семинара был презентован проект ТГУ – система анализа технологических данных, позволяющая предотвращать аварийные ситуации на предприятиях. Такой автоматический анализ осуществляет математическая модель, которую с помощью машинного обучения научили распознавать штатное и аномальное поведение в технологических сигналах.

– Этот проект уже вызвал интерес у крупных промышленных компаний в РФ, например, у ПАО «Камаз», – говорит Александр Владимирович. – Наших немецких коллег он тоже привлёк, но главным итогом встречи я бы назвал возможность развития сотрудничества с немецкими партнёрами. Среди выступавших университетов есть баварские вузы, исследования которых созвучны с нашими, например, использование ИИ в персонализированной медицине. Благодаря воркшопу мы завязали новые профессиональные контакты, которые планируем развивать.