Израильским адвокатам запретили доверять автономному ИИ принимать юридические решения
Коллегия адвокатов Израиля запретила автономным ИИ-агентам принимать решения и составлять документы без человека, обязав юристов защищать тайну клиентов от утечек в нейросети.
Коллегия адвокатов Израиля запретила автономным ИИ-агентам принимать юридические решения и подавать документы без контроля человека.
В Израиле на сегодняшний день официально насчитывается около 100 тысяч практикующих адвокатов.
Загрузка конфиденциальных данных клиентов в открытые нейросети и слепая вера в «галлюцинации» ИИ грозят адвокатам суровыми дисциплинарными санкциями.
Как сообщает экономическое издание Calcalist, Этическая комиссия Коллегии адвокатов Израиля выпустила жесткие правила, полностью запрещающие автономным агентам искусственного интеллекта принимать ключевые юридические решения и представлять интересы клиентов без прямого контроля человека.
В обновленном заключении, подписанном председателем Национальной этической комиссии Коллегии адвокатов адвокатом Менахемом Мошковицем, подчеркивается, что современные ИИ-системы могут использоваться исключительно в качестве контролируемых технических помощников. На сегодняшний день в Израиле профессиональную деятельность ведут около 100 тысяч адвокатов, на которых возлагается персональная дисциплинарная ответственность за любые ошибки машин.
Жесткие границы для автономных AI-агентов
Современные технологии перешагнули этап простых ответов на текстовые промпты. На рынок выходят так называемые агенты искусственного интеллекта (AI Agents), способные самостоятельно планировать рабочие процессы, выбирать инструменты и взаимодействовать с судебными инстанциями без участия человека.
Коллегия адвокатов установила четкий запрет на передачу ИИ существенных полномочий. Программам запрещено самостоятельно формировать независимые юридические консультации, подавать процессуальные документы или продвигать судебный процесс. Использование алгоритмов допускается лишь для рутинных, обратимых и строго документируемых задач при условии непрерывного контроля со стороны специалиста.
Защита конфиденциальности и запрет на ввод данных
Отдельный блок правил посвящен защите адвокатской тайны. Адвокатам категорически запрещено загружать в открытые незащищенные платформы искусственного интеллекта конфиденциальные данные клиентов, включая коммерческую и медицинскую информацию.
Коллегия отдельно отмечает, что стандартная процедура деидентификации (удаление имен и фамилий) не гарантирует безопасность, так как продвинутые алгоритмы способны восстановить личность путем перекрестного анализа. Более того, при использовании даже закрытых корпоративных ИИ-систем юрист обязан следить за шифрованием и настройками доступа.
Прозрачность и проблема «галлюцинаций»
Новые стандарты обязывают израильских адвокатов открыто информировать клиентов о применении искусственного интеллекта, если это существенно влияет на ход дела. Если планируется задействовать закрытые платформы с ограниченными данными, от клиента требуется получить письменное информированное согласие — стандартные общие пункты в договорах об оказании юридических услуг больше не имеют юридической силы.
Комиссия также напомнила о феномене «галлюцинаций» нейросетей, которые способны вымышлять судебные прецеденты и несуществующие юридические ссылки. Слепое доверие сгенерированным материалам уже приводило к скандалам в судах, поэтому за подобные упущения адвокатов ждут суровые дисциплинарные взыскания.