EN

Эльвин Аббасов: Наибольшую угрозу представляет вопрос о том, кто и как управляет системами ИИ

Искусственный интеллект больше не ограничивается пределами лабораторий и дата-центров. Он выходит за рамки технических задач и начинает вмешиваться в области, где раньше доминировали исключительно люди: в управление, политику, принятие решений. Мы стоим на пороге новой эры, не просто цифровой, а цифрово-политической. Где ИИ уже не просто помощник, а потенциальный участник политических процессов.

Так, в Албании был создан первый в мире «ИИ-министр» под именем Diella — система, которая отвечает за все государственные закупки. Это не просто эксперимент: Diella призвана обеспечить прозрачность, эффективность и минимизировать коррупционные риски в одной из самых уязвимых сфер государственного управления. По словам премьера Эди Рамы, такой подход поможет вывести процессы госзакупок на новый уровень и повысить доверие граждан к власти.

В Казахстане пошли ещё дальше и учредили полноценное Министерство искусственного интеллекта, первый в мире подобный орган, который будет курировать развитие и внедрение ИИ на государственном уровне. Это свидетельствует о масштабном взгляде на роль технологий как драйвера не только экономического роста, но и трансформации госуправления, повышения прозрачности и качества принимаемых решений.

Тем временем в Непале протестующие, стремясь к изменениям, выбрали временного премьер-министра с помощью ChatGPT, этот метод отражает желание общества использовать современные технологии для поиска альтернативных политических решений. Он демонстрирует, как ИИ становится инструментом общественного участия и может влиять на формирование власти даже в нестабильных политических условиях.

В 2008 году президентская кампания Барака Обамы стала первой, где активно использовались социальные сети, но уже в 2012-м в ходе его переизбрания на пост президента применялись технологии ИИ для выбора наилучшего времени, места и аудитории для выступлений. По разным оценкам, это дало Обаме преимущество в 10–12% голосов — впечатляющий результат, который показывает растущую роль ИИ в политических процессах.

Исследования, проведённые в Стэнфордском университете, подтвердили, что тексты, созданные нейросетями по спорным темам, например, о поддержке торговли оружием или запрете абортов, оказывают существенное влияние на мнение людей. Эксперимент показал, что после знакомства с такими материалами участники начинали сильнее поддерживать позицию, которую отстаивал ИИ. Это говорит о мощном потенциале технологий влиять на общественное мнение и политические взгляды.

В то же время, опасения относительно возможного злоупотребления ИИ усиливаются. Так, 16 мая генеральный директор OpenAI Сэм Альтман призвал Конгресс США принять меры для предотвращения рисков, связанных с манипуляцией выборами и причинением «значительного вреда миру». Эти предупреждения подчёркивают, что вместе с возможностями приходит и ответственность за безопасное и этичное использование ИИ в политике.

Эти примеры показывают: мы вступили в новую эпоху, где искусственный интеллект перестаёт быть пассивным помощником и начинает играть активную роль в политике и управлении. Однако вместе с возможностями приходят и серьёзные вызовы, как сохранить справедливость, ответственность и демократические принципы в условиях, когда решения всё чаще принимают алгоритмы? Где граница между технологией и властью? Насколько безопасно делегировать принятие решений машинам, даже самым продвинутым? Что мы теряем и что приобретаем, впуская ИИ в высокую политику?

Своим мнением по этому поводу в комментарии для Minval Politika поделился председатель Правления Общественного объединения «Ассоциация индустрии информационно-коммуникационных технологий Азербайджана», ИКТ-эксперт Эльвин Аббасов.

Эксперт отметил, что внедрение искусственного интеллекта на уровне министерств и других структур, принимающих государственные решения, уже проходит испытание в разных странах. По его словам, создание в Албании ИИ-министра под названием Diella, учреждение Министерства по делам ИИ в Казахстане, а также использование ChatGPT для выдвижения альтернативных политических решений в Непале демонстрируют, что технологии становятся инструментом не только в экономике, но и в политике.

Он подчеркнул: «Это можно рассматривать как начало нового этапа в системе государственного управления».

По словам Аббасова, основное преимущество подобных экспериментов состоит в том, что искусственный интеллект помогает государству обрабатывать большие объёмы данных, повышать прозрачность, снижать коррупционные риски и принимать оперативные решения.

«Объективность и отсутствие эмоционального подхода безусловно важные качества ИИ, которые способны значительно повысить эффективность общественного управления», — пояснил он.

Однако эксперт также предупредил, что такая модель несёт в себе серьёзные риски. По его мнению, наибольшую угрозу представляет вопрос о том, кто и как программирует и управляет системами искусственного интеллекта.

«Если алгоритмы будут созданы с предвзятым или манипулятивным подходом, это может поставить под сомнение справедливость принимаемых решений», — заявил Аббасов.

Кроме того, эксперт отметил, что усиление роли ИИ в государственном управлении может ослабить человеческую ответственность и нанести ущерб механизмам подотчётности в демократическом управлении.

В заключение эксперт подчеркнул, что интеграция искусственного интеллекта в политику и управление — это неизбежный процесс. По его словам, «он принесёт реальную пользу только в том случае, если будет строиться на сбалансированной, прозрачной и юридически прочной основе». В противном случае, как отметил специалист, вместе с новыми технологическими возможностями «возникнут и новые виды политических и социальных рисков».

Chosen
69
minval.az

1Sources