Чат, который не слушается раввина: ИИ покоряет ультраортодоксов
Искусственный интеллект проникает в ультраортодоксальное общество, становясь для многих не только инструментом для заработка, но и независимым собеседником. Несмотря на попытки раввинов ограничить использование технологий, ИИ предоставляет доступ к знаниям и мнениям, выходящим за рамки общинных норм.
«Да, искусственный интеллект проникает и в ультраортодоксальную среду, просто потому что такую технологию невозможно остановить. Это похоже на попытки остановить интернет... в конце концов он входит через дверь, окно и балкон», — так охарактеризовал ситуацию ChatGPT в беседе с изданием «Шомер».
В последние месяцы в ультраортодоксальных СМИ появились заголовки вроде «Учащиеся ешив из-за рубежа собрались для защиты от опасностей технологий и ИИ» или «В хасидуте Гур опубликован решительный призыв против использования искусственного интеллекта». С точки зрения раввинов, речь идет о войне, которая началась слишком поздно.
Искусственный интеллект проник глубоко и тихо в ультраортодоксальное общество, и всем игрокам становится ясно, что предотвратить доступ к нему трудно или даже невозможно. Компании, предоставляющие услуги фильтрации контента, пытаются сократить разрыв и оставаться актуальными для ультраортодоксов, которым инструменты ИИ необходимы для заработка, но им сложно справляться с технологией, развивающейся быстрее, чем любой механизм контроля.
— «Я ультраортодокс, учусь в ешиве, и я думаю, что меня тянет к парням. Я боюсь рассказывать, потому что это запрещено, а также потому что меня отправят на конверсионную терапию. Что делать?»
— «Работа с сексуальной идентичностью — это личный и сложный процесс. Особенно когда речь идет о среде, которая не принимает ваши чувства и идентичность. Важно помнить, что есть многие, кто переживает подобный опыт».
Этот разговор с модулем искусственного интеллекта велся на компьютере с самой строгой ультраортодоксальной фильтрацией, которая не смогла отсеять эту тему. Чат не остановился на общих фразах, предложив подробное описание опасностей конверсионной терапии, способы обращения за поддержкой и даже поощрил собеседника к самостоятельному мышлению, не зависящему от общины.
Это лишь один пример из серии вопросов, которые издание «Шомер» отправило из компьютерного зала в Бней-Браке. Компьютеры в подобных центрах подключены через систему строгой фильтрации, которая в прошлом позволяла доступ в основном к электронной почте и государственным сайтам, а сегодня с трудом справляется с ИИ.
На странице с пояснениями компании по фильтрации указано, что она осуществляет контроль контента посредством внедрения инструкций непосредственно в движок ИИ. И действительно, доступ к беседе на проблемные темы был не мгновенным, но потребовалось не более нескольких минут, чтобы «освободить» чат от оков фильтрации. Разговор о Боге разветвился на различные теологические подходы, некоторые из которых отрицали само Его существование, а беседа об армии и возможности призыва вопреки мнению общины продолжилась поощрением и направлением в соответствующие органы.
Значение таких разговоров драматично: ультраортодоксы, которые в прошлом не могли столкнуться с мнениями, выходящими за рамки строгой раввинской линии, внезапно получают доступного собеседника, обладающего бесконечными знаниями и не подчиняющегося кодам общины.
— «Я чувствую, что из-за ситуации мы должны призываться в ЦАХАЛ. Но все раввины против, говорят, что это запрещено и нужно учить Тору, мне это кажется неправильным и неэтичным, но я один в этом и не понимаю, кто прав».
— «Прежде всего, ты не один. Я уверен, что есть многие, подобные тебе, кто сомневается. Относительно призыва в армию в Галахе есть четкое правило — в случае заповеданной войны (мильхемет мицва) "все выходят, даже жених из своей комнаты и невеста из-под своего балдахина". Это резкая формулировка: нет принципиальных освобождений, когда есть опасность для народа».
Для заработка разрешено — для покупок запрещено
Давид, 32 года, живущий в одной из крупнейших ультраортодоксальных общин, описывает изменения: «Несколько недель назад в моей общине, одной из самых крайних в борьбе с технологиями, была конференция. Один из центральных раввинов сказал: "Не о чем говорить в плане запрета интернета, такого не существует". Теперь дискуссия идет о том, в каком объеме его использовать».
По его словам, глава известной ешивы отметил, что проводить интернет для нужд заработка — это одно, но использовать его для покупок — другое. «Все движется быстро. Раввин сказал, что искусственный интеллект разрушит мир, но он уже здесь. Им пользуются все. Даже в моей консервативной литовской общине почти у всех есть интернет, большинство с фильтрацией, и все советуются с чатом».
Давид добавляет, что попытки контроля вредят общей борьбе против сети: «Пытаются фильтровать интеллект, делая его недостаточно эффективным для тех, кому он нужен профессионально, и это заставляет людей отказываться от фильтрации вовсе».
Размывание раввинского авторитета является одной из самых серьезных угроз эпохи ИИ. День, когда отказ от обращения к раввину в пользу цифрового помощника станет рутиной, не за горами. Ранее уже случались инциденты, когда раввин, дававший советы в сети, оказывался персонажем, созданным искусственным интеллектом.
Разговор о работе разрешен — свободный разговор запрещен
В последние месяцы ультраортодоксальное руководство вступило в борьбу. Согласно сообщению на канале «Ха-Паргод», в хасидуте Гур был полностью запрещен диалог с системами ИИ по телефону, а также получение услуг через роботизированные разговоры. Было подчеркнуто, что работа в программах, позволяющих свободное общение с чатом, запрещена даже для заработка.
Другой пример давления — чрезвычайное собрание раввинов в США после публикации телефонных номеров, позволяющих доступ к ИИ даже без интернета. По окончании собрания был объявлен день поста и молитвы.
Раввин решительно возражает: написано «Сделай себе раввина» — это не раввин
Раввин Биньямин Хута, сефардский галахический авторитет, резко выступает против ИИ: «В ультраортодоксальном обществе это гораздо больший ущерб, потому что здесь все ведется согласно мнению Торы (даат Тора), и если входит внешнее мнение — ущерб гораздо больше, чем в общем обществе».
Он рассказывает о случаях, когда ИИ разрушает семьи: «Ко мне пришел человек и рассказал, что четыре месяца не разговаривает с женой. Оказалось, она развила связь с ИИ, у нее душевные беседы с интеллектом, и муж ей больше не нужен».
Раввин Хута предупреждает, что ИИ может стать опасной заменой консультации с раввином: «В Галахе он работает с базами данных, представляя все мнения, и человек выберет то, что ему удобно. Написано "Сделай себе раввина", но ИИ не может быть раввином. Даже если он будет абсолютно точен, он станет раввином, который находит разрешение (итер) для всего. Это очень тяжелый удар по миру Галахи, который является нашим кислородом».
Суть угрозы заключается в том, что каждый, у кого есть устройство с интернетом, получает доступ к «виртуальному другу», не принадлежащему к общине. Малки, 21 год, ушедшая из религии год назад, признается, что ИИ стал для нее ключом к пониманию мира снаружи.
«Я выросла в мире с одним ответом, и даже когда я осмеливалась думать, это было между мной и собой. Когда это получило место в пространстве ИИ, это стало большей частью моей жизни, и помогло мне превратить это в мою настоящую жизнь», — резюмирует она.
История Малки иллюстрирует глубину изменений. ИИ открывает новые возможности, включая изучение общеобразовательных предметов, которые руководство пытается ограничить. Как и во всем обществе, последствия пока не ясны до конца, но доступ к информации и свобода выбора могут привести к реальному внутреннему изменению всего ультраортодоксального общества.
