Искусственный интеллект и его пределы в праве

Дата: 25 июня 2025 г.

Когда мы обсуждаем вопросы искусственного интеллекта (ИИ), то должны понимать, о чём идёт речь. ИИ — это “кто” или “что”? Может ли быть ИИ действующим лицом? Непосвященному может показаться, что в проблеме довольно просто разобраться, но, когда речь заходит о вопросах использования ИИ в системе правоприменения, простое быстро становится сложным и даже страшным.

19 мая 2025 года с докладом на эту тему на сессии в рамках XIII Петербургского международного юридического форума выступила вице-президент Гильдии российских адвокатов, советник ФПА РФ – руководитель цифровой трансформации адвокатуры России Елена Георгиевна Авакян.

Спикер отметила, что существует несколько способов, которые возможно применить для изучения ИИ.  Первый – когда мы смотрим на ИИ через окуляр микроскопа. Окуляром в этом случае служит четвертая часть Гражданского кодекса РФ, где чётко сказано, что искусственный интеллект – программа для ЭВМ плюс база данных. Этот окуляр позволяет нам увидеть, что у программы для ЭВМ есть конкретный разработчик, есть понятный порядок правоотношений, связанный с разработкой и распространением интеллектуальной собственности. 

Второй – когда мы смотрим на ИИ через функцию «технического лица». Сложно спорить с тем, что ИИ вошел в нашу обыденную жизнь. Сейчас он функционально встроен во все виды и формы правоотношений и выступает скорее как глобальный объект в этих правоотношениях. Глядя на него с такой позиции, мы уже не можем сказать, что это просто программа для ЭВМ. Но именно с этой позиции его воспринимают в различных правопорядках в мире. 

 Стоит разобраться и в том, что такое ИИ и какие виды его можно выделить. Если представить себе ИИ в виде айсберга, то самая верхняя часть его, что виднеется над водой, представлена в виде многочисленных «болтушек» – генеративным искусственным интеллектом. Все мы знаем, о чём идёт речь. Мы задаем вопрос программе, а она отвечает. Эксперты называют такой вид ИИ «болтушками» по причине того, что программа угадывает каждое следующее слово в своем ответе, поскольку оно наиболее часто встречается в сочетании с другими и более всего подходит под заданный вопрос. По своей сути это очень быстрый и умелый компилятор, которого очень хорошо обучили. К генеративному ИИ относятся, например ChatGPT и YandexGPT. Совсем другое дело – скрытая под водой и не видная взгляду обывателя часть айсберга искусственного интеллекта. Это профессиональный ИИ или neiro AI, который используется для управления в беспилотных автомобилях, управляет боевыми системами, вооружением, электростанциями и т.д. К этому виду искусственного интеллекта уже сложно применить четвертую часть Гражданского кодекса РФ. Особенностью neiro AI является его «скрупулезность». Он исчерпывает задачу «до дна» и может анализировать огромные массивы данных, которые сегодня человек уже сам не в состоянии проанализировать. Что, в свою очередь, влечет за собой другой вопрос: neiro AI – это инструмент человека или регулятор его деятельности?    

Представим ситуацию, когда ИИ будет внедрен в правоприменительную практику, с абсолютной свободой машиночитаемости права и с возможностями не только анализировать нормы, но также выявлять противоречия и устранять их. В таком случае, мы получим мгновенное, беспощадное и неконтролируемое правоприменение, когда ИИ идентифицирует нарушение, выносит решение и применяет санкцию. Кто-то скажет, что это идеальная модель правоприменения. Но это не так, поскольку машину можно научить закону, но не праву.

«Границы ИИ сегодня задаёт не технология, технологически ИИ почти всемогущ и всезнающ, но юридически он никогда не должен выйти за пределы «прокрустова ложа» четвертой части ГК РФ и жёстких ограничений тех точек, в которых он может быть применён», – считает Е.Г. Авакян. В своём докладе о фиксации доказательств и организации защиты в цифровом пространстве, она говорит о пагубности использования ИИ в правоприменительной практике. Такая практика наглядно прослеживается в системе «умного суда», используемой с 2023 года в Китае. Человек-судья в Китае обязан учесть результаты, которые предлагает ИИ. Если позиции человека и ИИ расходятся, то судья должен опровергнуть эти доводы и аргументировать свою позицию. Это сильно усложняет правоприменительную практику. Именно поэтому на вопрос: «ИИ — это “кто” или “что”?» хочется ответить: «что». Пределы же применения ИИ лежат в законах и этике, которым ИИ обучить невозможно. Вырабатывать этические кодексы и соблюдать их – дело человека.