Коллегия адвокатов Израиля запретила автономным AI-агентам принимать юридические решения
Национальная этическая комиссия запретила автономным нейросетям принимать решения и составлять процессуальные документы, обязав юристов жестко контролировать все этапы работы с клиентами.
Коллегия адвокатов Израиля запретила автономным AI-агентам принимать ключевые юридические решения и подавать документы без контроля человека.
Запрет на ввод чувствительных данных клиентов в открытые ИИ-платформы и угроза дисциплинарных взысканий за вымышленные нейросетями прецеденты.
Адвокаты обязаны получать информированное согласие клиентов на использование ИИ, а вся ответственность за ошибки остается на юристе.
Как сообщает издание Calcalist, Национальная этическая комиссия Коллегии адвокатов Израиля выпустила жесткие и однозначные правила, запрещающие автономным системам и агентам искусственного интеллекта принимать ключевые юридические решения и составлять процессуальные документы без прямого контроля человека.
Жесткие границы для автономных AI-агентов
Современные системы искусственного интеллекта вышли за рамки простой генерации текста по запросу. Сегодня активно развиваются так называемые AI-агенты, способные самостоятельно планировать рабочие процессы, выбирать инструменты и взаимодействовать с внешней средой. Однако Коллегия адвокатов подчеркивает: вся полнота профессиональной ответственности в Израиле, где насчитывается около 100 тысяч адвокатов, лежит исключительно на живых специалистах.
«Правило заключается в том, что запрещено использовать автономные системы или AI-агентов таким образом, чтобы позволять им принимать вместо адвоката существенные решения, давать независимые юридические консультации, подавать процессуальные документы или продвигать юридический процесс без достаточного человеческого контроля и одобрения», — отмечается в официальном заключении.
При этом базовые технические, рутинные и обратимые задачи, выполняемые под четким надзором человека, остаются разрешенными. Чем выше автономность алгоритма, тем строже требования к надзору.
Защита конфиденциальности и проблема «галлюцинаций»
Особое внимание в документе уделено защите адвокатской тайны. Юристам категорически запрещено передавать непубличные данные клиентов (медицинские карты, коммерческую тайну или чувствительную личную информацию) в открытые платформы искусственного интеллекта. Обычное удаление имен и фамилий не спасает от деанонимизации, так как современные алгоритмы способны восстановить контекст.
Коллегия также отдельно предупреждает о феномене «галлюцинаций» ИИ — рисках того, что нейросети вымышляют несуществующие судебные прецеденты и законы. Использование таких фальшивок в суде грозит адвокатам серьезными дисциплинарными взысканиями и ударом по репутации.