Искусственный интеллект не платит штрафы и не идёт в тюрьму

В корпоративной среде системы на основе ИИ уже используются для оценки кредитоспособности, отбора кандидатов на собеседование и распределения бюджетов. Алгоритм формирует рекомендацию, менеджер её утверждает. Однако с правовой точки зрения ответственность за последствия решения лежит на человеке — руководителе или уполномоченном лице компании, — а не на системе, которая его подготовила. Исследования фиксируют феномен так называемого автоматизационного смещения: люди склонны некритически доверять выводам компьютера, особенно когда они поданы в виде наглядных графиков и чётких рекомендаций.

В сфере автомобильного транспорта современные системы помощи водителю берут на себя часть управления, однако юридическая ответственность за аварию по-прежнему остаётся за водителем — при условии, что автомобиль не является полностью автономным. Переход к полной автономии поставит перед законодателями и страховщиками принципиально новый вопрос: кто отвечает за ДТП — владелец автомобиля или производитель программного обеспечения.

В сегменте умного дома схожая проблема возникает при сбоях систем безопасности. Если умный замок пропустил постороннего из-за программной ошибки, установить, кто виноват — владелец, настроивший систему, или поставщик программного обеспечения, — бывает непросто.

Общий принцип, который фиксирует действующее законодательство большинства стран: ИИ является инструментом, а не субъектом ответственности. Штрафы, судебные иски и уголовная ответственность адресуются людям и организациям, а не алгоритмам. Именно поэтому в профессиональном сообществе всё активнее обсуждается концепция «человека в контуре» — требование, чтобы финальное решение в значимых ситуациях всегда принимал человек, а не система.