Buch lesen: "Защита от злоупотребления искусственным интеллектом и нейротехнологиями в аспекте медиабезопасности"

Schriftart:
* * *

© Галяшина Е. И., Антонян Е. А., Богатырев К. М., 2024

© ООО «Проспект», 2024

Авторский коллектив

Галяшина Елена Игоревна – доктор юридических наук, доктор филологических наук, профессор, заведующий кафедрой криминалистики Московского государственного юридического университета имени О. Е. Кутафина (МГЮА) – § 1.2 главы 1, главы 2–4 (совместно с К. М. Богатыревым).

Антонян Елена Александровна – доктор юридических наук, профессор, заведующий кафедрой криминологии и уголовно-исполнительного права Московского государственного юридического университета имени О. Е. Кутафина (МГЮА) – § 1.1 главы 1.

Богатырев Константин Михайлович – кандидат юридических наук, преподаватель кафедры криминалистики Московского государственного юридического университета имени О. Е. Кутафина (МГЮА) – § 1.2 главы 1, главы 2–4 (совместно с Е. И. Галяшиной).

Введение

XXI век обещал стать временем прорывных технологий, кардинально повышающих уровень и улучшающих качество жизни всего человечества. Такого рода ожидания оправдались лишь отчасти: научно-технический прогресс действительно обеспечивает стремительное развитие технической компоненты нашей жизни, однако пока новые технологии являются обоюдоострым мечом, к тому же доступным далеко не всем. Системы национальной, региональной и глобальной безопасности находятся в критической зависимости от новых военных, транспортных, медицинских, промышленных и сельскохозяйственных технологий, однако едва ли не ключевую роль играют технологии информационные. Как было сказано еще в XIX в., «кто владеет информацией, тот владеет миром»; это в высшей степени справедливо и для дня сегодняшнего, когда в результате повсеместного внедрения средств массовой коммуникации в масштабах планеты сформировалась принципиально иная среда обитания человека – так называемая «новая информационная реальность»1.

Вместе с тем эта реальность, сформировавшаяся на функционирующих в сети Интернет информационных ресурсах, не является раз и навсегда данной, находится в процессе постоянной трансформации (или в категориях диалектической логики – в становлении): от первоначальной текстовой формы – к поликодовой (сочетающей разные системы кодирования и каналы передачи информации) и далее к мультимодальной. Основным же драйвером развития в текущем десятилетии (2020-е гг.) уже общепризнанно стали большие языковые модели и иные системы генеративного искусственного интеллекта (далее – ИИ; последний понимается как комплекс технологических решений, позволяющий имитировать когнитивные функции человека, включая самообучение и поиск решений без заранее заданного алгоритма, и получать при выполнении конкретных задач результаты, сопоставимые как минимум с результатами интеллектуальной деятельности человека2), создаваемые по модели искусственных нейронных сетей.

Данная сфера показывает взрывной рост: за прошедшее с 2014 г. десятилетие во Всемирную организацию интеллектуальной собственности (ВОИС) было подано 54 000 патентных заявок на генеративный ИИ, четверть которых – за последние полтора года (после того, как компанией OpenAI в конце 2022 г. была представлена ChatGPT, ставшая «первой ласточкой» новой эпохи)3.

Перспективы и риски данной технологии пока не ясны в полной мере. По возможностям и эффективности применения в совокупности с количеством создаваемых угроз данную технологию допустимо метафорически сравнить с джинном, выпущенным из бутылки: самообучающийся ИИ способен выполнить любое наше желание, но результат может быть совсем не тем, что мы хотим получить; кроме того, никто не знает, что этот «джинн» наделает, когда станет «свободным». На вызывающие беспокойство обстоятельства обращают внимание отраслевые специалисты: так, генеральный директор ООО «Лаборатория Наносемантика» С. И. Ашманов применительно к ChatGPT описал, как обученная только лишь продолжать или дополнять текст нейросеть внезапно показала свойства, которые не только не закладывались, но даже и не ожидались от нее (например, навыки переформулирования текста, решения математических задач и т. д.)4.

Приводя в пример «слишком быстрое развитие» GPT, некоторые исследователи предлагают принять серьезные меры по управлению развитием ИИ: приостановить (ввести мораторий) или же отказаться от разработки подобных технологий вовсе, мотивируя подобные предложения угрозой выхода таких систем из-под контроля людей с возможным последующим уничтожением человечества5. Хотя подобные предположения кому-то могут показаться технофобской, неолуддистской паникой, факты использования таких технологий на экзаменах6, участия ChatGPT (как первого и наиболее показательного примера рассматриваемой технологии) в хакерских атаках7 или даже в выборах в качестве кандидата8 позволяют получить представления о негативной стороне технологии.

Нейросети, обученные для создания текстов, программ, изображений, видео и иного контента, могут не блистать качеством результата, однако их сильная сторона заключается в его большом объеме и низкой цене (на этом фоне имеет место волнение представителей творческих профессий, особенно в свете заявлений разработчиков ИИ о том, что такие профессии изначально не были нужны9).

Такой «творческий потенциал» уже запустил, а затем серьезнейшим образом повлиял на процесс трансформации Интернета (в первую очередь в плане содержания – произошла его фейковизация10): площадки наводнил информационный шум (мусор) – низкокачественный, недостоверный контент, количество которого растет в геометрической прогрессии (что особенно критично для поисковых сервисов, торговых площадок и средств массовой коммуникации, таких как почтовые сервисы, соцсети, мессенджеры и т. д.)11. Если рассуждать в понятиях Томаса Гоббса, современный Интернет стал полем информационной войны всех против всех12 (людей и ИИ друг с другом и между собой), ключевым оружием в которой является навык проверки достоверности информации (фактчекинга).

О том, что генеративный ИИ является продуктом двойного назначения, пригодным для использования в военных целях, свидетельствует пересмотренная Стратегия НАТО в области искусственного интеллекта, в которой отмечается, что для НАТО жизненно важно задействовать генеративный ИИ (способный практически в неограниченном объеме создавать сложный текст, компьютерный код, реалистичные изображения и аудио- и иной контент, все больше неотличимый от созданного человеком) везде, где это применимо, как можно скорее13. Вместе с тем подчеркиваются и проблемы для безопасности, такие как дезинформация и информационные операции с использованием ИИ, которые могут повлиять на результаты выборов, посеять разногласия и смятение в Альянсе, демобилизовать и деморализовать общество и военные силы во время конфликтов, а также снизить доверие к институтам и властям, имеющим важное значение для НАТО.

Сами технологии ИИ достоверность информации оценивать пока не способны (точнее – эта способность напрямую зависит от данных, на которых был обучен лежащий в основе ИИ нейросетевой алгоритм, и сформировавшейся на их основе «картины мира»; к примеру, на некоторую тематику может быть в целом наложен запрет, который, впрочем, может быть легко обойден злоумышленником при формулировании запроса), при этом они уже вплотную приблизились к черте, когда их возможности позволят им сформировать «второй», фейковый интернет, полностью состоящий из создаваемых ими недостоверных информационных продуктов и способный занять место «оригинального» Интернета. В этой связи не следует удивляться возникновению таких «культурных феноменов», как «теория мертвого Интернета» (согласно которой он уже давно является безлюдным пространством, наполненным ботами, создаваемым и размещаемым ими контентом)14.

Какие-то из рассмотренных выше проблем являются реальными, какие-то – пока гипотетическими ситуациями, представляющими широкий простор для дискуссий, размышлений и мысленных экспериментов. Вместе с тем следует помнить о том, что в калейдоскопе связанных с нейросетями угроз и рисков по-прежнему имеет место и человеческий фактор: с момента своего создания генеративные ИИ стали активно использоваться злоумышленниками и представителями криминального мира: мошенниками, хакерами, плагиаторами, террористами-экстремистами и иными нарушителями закона.

Другим важным обстоятельством, заслуживающим пристального внимания, является проблематика аугментации человека – расширение и увеличение физических/когнитивных возможностей человека за счет использования достижений научно-технического прогресса15. Создание киборгов, восстановление утраченных и получение сверхспособностей, программирование человека, влияние на антропогенез и управление им – все эти явления постепенно переходят из области научной фантастики в нашу жизнь и превращаются из умозрительных экспериментов в конкретные технические задачи16; это требует выработки взвешенного подхода к ним с позиций гуманитарных наук, в первую очередь – в плоскости биоэтики.

Развитие технологий еще в прошлом веке позволяло осуществлять приспособление или даже вживление искусственных компонентов (кардиостимуляторов, хрусталиков глаза, искусственных органов и протезов) в человеческий организм. Теперь же данное направление получило дополнительный импульс с развитием вычислительной техники нанометрового масштаба, полимерных материалов и нейропротезов (устройств, которые могут заменить моторные, сенсорные или когнитивные функции, поврежденные в результате болезни или травмы)17. Если в 2000-х гг. попытки расширить (пусть и в художественных целях) собственные возможности за счет добавления цифровой электроники оканчивались неудачей18, то уже сейчас, в 2020-х гг., получили развитие и распространение нейростимуляторы мозга (внедряемые чипы, компенсирующие некоторые дисфункции мозга, вызванные повреждениями естественных нейронных связей, например, при болезни Паркинсона, эпилепсии и проч.) и бионические протезы (ведущим разработчиком и производителем которых в России является ООО «Моторика»19, не только осуществляющее протезирование в соответствии с Федеральным законом от 24 ноября 1995 г. № 181–ФЗ «О социальной защите инвалидов в Российской Федерации», но и самостоятельно разрабатывающее нейроинтерфейсы для своих протезов, проводя соответствующие научные исследования).

Активные работы по созданию нейроинтерфейса, который позволит подключить мозг человека к компьютеру, ведутся компанией Neuralink Илона Маска: в 2023 г. Управление по санитарному надзору за качеством пищевых продуктов и медикаментов (FDA) выдало разрешение на проведение первых клинических испытаний на людях20, а уже в июле 2024 г. успешно проведена вторая имплантация21 (несмотря на то, что опыт первой имплантации, осуществленной в январе 2024 г., не был до конца удачным22). Вживление имплантов, помимо Neuralink, за последний год также смогли осуществить Blackrock Neurotech, Synchron, Braingate и ряд других23. Все это свидетельствует о том, что появление у человека возможности быстро и эффективно взаимодействовать с компьютером напрямую через нейроинтерфейс «мозг – компьютер» является лишь вопросом времени.

Исследования в области ИИ и нейротехнологий тесно связаны между собой, так как разрабатываются на материале исследований человеческого мозга. Параллельная работа над этими направлениями дает синергетический эффект: исследования мозга позволяют разрабатывать самообучающиеся нейронные сети, в перспективе (при должном объеме и продолжительности обучения) способные обрести разум, сравнимый с естественным, или даже превзойти его24; с другой стороны, анализ нейросетей и процесса их функционирования25 при наличии нейроинтерфейса «мозг – компьютер» открывает возможности для непосредственного влияния на человеческий разум извне (при наличии доступа гипотетически возможны дистанционное перепрограммирование личности, стирание/изменение памяти и т. д.). Все эти действия являются (или могут являться) частью информационно-коммуникативной деятельности, осуществляемой в цифровой медиасреде.

Настоящая монография посвящена анализу возможных злоупотреблений ИИ и нейротехнологиями в процессе медиакоммуникации; с криминалистических и криминологических позиций анализируются возможные нарушения, их причины и механизм осуществления, а также возможные направления их предупреждения и, шире, профилактики. Это в числе прочего позволит определить концептуальные подходы к уголовно-правовому регулированию таких общественных отношений.

Глава 1. Нейротехнологии и искусственный интеллект как элемент современного информационного пространства россии

§ 1.1. Основные направления приложения нейротехнологий и ИИ

Нейротехнологии и ИИ являются одними из самых динамично развивающихся направлений науки и техники, которые способны радикально изменить представление о человеческих возможностях, улучшении качества жизни и развитии технологий. Эти области исследования объединяют достижения, прежде всего, в нейробиологии, информатике и машинном обучении. Рассмотрение основных направлений применения нейротехнологий и ИИ, возможность оценить их потенциал для решения актуальных задач, стоящих перед обществом, позволяет выявить те изменения, которые могут оказать наибольшее воздействие на общество, и предложить возможные пути их дальнейшего развития.

При рассмотрении нейротехнологий и ИИ следует отметить, что существует множество подходов к их внедрению, каждый из которых предполагает свой взгляд на развитие человеческого мозга и его поведение26.

Тенденция внедрения нейротехнологий и ИИ проявляется повсеместно: ИИ анализирует угрозы безопасности для финансовых организаций, а нейросети – кредитную историю клиентов банковских структур; нейроинтерфейсы позволяют медицинским работникам проводить сложнейшие операции; университеты мира используют нейротехнологии для адаптивного обучения студентов; в московском метрополитене применяется система распознавания лиц для оплаты проезда, а Организация Объединенных Наций (ООН) исследует миграционные потоки с помощью автоматизированного анализа данных о геолокации мигрантов по всей планете27.

Нейротехнологии и ИИ активно развиваются благодаря достижениям в области машинного обучения, глубоких нейронных сетей и анализа данных и все чаще используются в различных отраслях. Ежегодно рынок нейротехнологий и ИИ расширяется, предлагая новые возможности их применения как в медицине, так и в автоматизированных сложных производственных процессах. Такие корпорации, как Tesla и Google, уже активно применяют ИИ в целях повышения конкурентоспособности, что подтверждается достижениями в инновациях и коммерциализации внедряемых технологий. Нейротехнологии и ИИ становятся очень востребованными, о чем свидетельствует увеличение числа связанных с ними стартапов, а также объема инвестиций в них.

Воспользоваться результатами исследований в первую очередь стремятся государства, выступающие основными выгодоприобретателями. Они используют ИИ и нейротехнологии с целью решения самых разных задач, среди которых выделяются такие, как защита национальных интересов, улучшение ситуации, связанной с обеспечением кибербезопасности, и внедрение технологических разработок в экономику, что позволяет оптимизировать внутреннюю управленческую деятельность, а не только обеспечить защиту данных своих граждан и решить проблемы социального неравенства в доступе к новым технологиям. В современных условиях глобальной конкуренции ряд стран (США, Китай) ведут буквально технологическую гонку за лидерство, подчеркивая тем самым значимость нейротехнологий как некоего стратегического орудия. Искусственный интеллект оказывает сильное влияние на общественные институты; автоматизация большого количества рабочих мест приводит к необходимости переобучения сотрудников, адаптации бизнеса к изменениям рынка труда.

Используя ИИ и нейротехнологии, государства решают самые разные задачи – от обороны и разведки до управления экономикой (прогнозирования экономических кризисов, оптимизации самостоятельных систем и поддержки принятия решений). Большое внимание уделяется вопросам обеспечения информационной безопасности (противодействию взлому и неправомерному доступу к данным, использованию ИИ в ущерб государственным интересам).

Искусственный интеллект – комплекс технологических решений, имитирующий когнитивные функции человека (обучение, анализ информации, поиск решений, адаптация к новым условиям). Его отличие от традиционных программных решений заключается в способности самостоятельно обучаться и адаптироваться к меняющимся данным без использования заранее заданного алгоритма, что позволяет достигать тех результатов, которые либо сопоставимы с интеллектуальной деятельностью человека, либо даже превосходят ее. Искусственный интеллект представляет собой программу, с помощью компьютера имитирующую процесс мышления человека.

Основными компонентами (составляющими) ИИ являются:

• информационно-коммуникационная инфраструктура, представляющая собой совокупность программных средств, обеспечивающих сбор, хранение, обработку и передачу данных, что служит основой функционирования самых разных ИИ-систем;

• программное обеспечение и алгоритмы, которые ориентированы на методы машинного и углубленного обучения, позволяющие системе извлекать закономерности из данных и использовать их для принятия решений;

• сервисы по обработке данных и выработке решений, позволяющие интегрировать ИИ-системы в разнообразные процессы (анализ больших данных, автоматизацию бизнес-процессов, прогнозирование, оптимизацию).

Можно выделить следующие виды ИИ:

• ANI (узкий ИИ) – предназначен для решения конкретных задач (распознавания образов, перевода текста, игр и др.) и активно используется как в повседневной жизни (в виртуальных ассистентах [Siri, Alexa]), так и в рекомендательных системах (YouTube) и в автопилотных транспортных средствах;

• AGI (общий ИИ) – предполагает, что такие системы смогут выполнять любую интеллектуальную задачу, на которую способен человек;

• ASI (сверхинтеллект) – концепция, в соответствии с которой ИИ не только сравняется с разумом человека, но и сможет превзойти его по всем интеллектуальным способностям (возникает вопрос этики и безопасности в случае создания сверхинтеллекта).

Искусственный интеллект не только заменяет ручной труд или упрощает задачи, но и создает новые варианты развития общества и технологий, предоставляя возможности, ранее не доступные, для создания более эффективных интеллектуальных и автоматизированных систем. Так, ИИ активно используется при диагностике заболеваний на ранних стадиях, при разработке новых методов лечения. С помощью ИИ автоматизация обработки данных, прогнозирование рыночных тенденций и оценка рисков компании могут оптимизировать бизнес-процессы и увеличить доходы. Использование роботизированных систем с ИИ на производственных линиях повышает точность и уменьшает ошибки. Интеллектуальные транспортные и автопилотные системы, логистика с применением ИИ делают транспортные потоки эффективными и наиболее безопасными.

Нейротехнологии – технологии, которые используют или помогают понять работу мозга, мыслительные процессы и высшую нервную деятельность28. Сюда относятся как методы изучения функционирования мозга, так и разработки, направленные на усиление когнитивных способностей. В настоящее время нейротехнологии применяются в различных сферах: медицине, образовании, ИИ и др. Среди всех нейротехнологий можно выделить нейроинтерфейсы, которые позволяют напрямую взаимодействовать с устройствами через мозговую активность, систему обучения, анализирующие нейронные паттерны, и нейростимуляцию, используемую, например, в медицине при лечении различных форм расстройств (депрессии и др.). Технологии нейровизуализации (МРТ, ЭЭГ) дают возможность узнать работу мозга в реальном времени.

Таким образом, происходит объединение двух видов работ с мозгом: записи мозговой активности («чтения») и стимуляции определенных областей мозга для изменения его активности. Нейронная запись основана на технологии мониторинга электрической активности мозга при помощи электродов или других датчиков, что позволяет фиксировать и анализировать нейронные сигналы, давая возможность специалистам изучать, как мозг реагирует на внешние и внутренние стимулы. В свою очередь, стимуляция мозга обеспечивает воздействие на определенные нейронные сети с помощью электрических импульсов, что позволяет активировать или подавлять работу конкретных его участков. Если раньше нейронная запись и стимуляция применялись по отдельности, то сейчас многие интерфейсы «мозг – компьютер» (ИМК) способны не только считывать активность мозга, но и воздействовать на нее в режиме реального времени, позволяя тем самым создать замкнутую систему одновременного «чтения и записи», в которой мозг и устройство могут взаимодействовать с максимальной точностью и скоростью.

В связи с достаточно быстрым развитием нейротехнологий возникает вопрос об этических аспектах их использования, поскольку сам процесс вмешательства в работу мозга вызывает много вопросов относительно безопасности нейроинтерфейсов и возможных злоупотреблений. Возможна ли в будущем манипуляция сознанием человека или даже контроль над его действиями? Подобный вопрос требует разработки правовых норм, обеспечивающих баланс между использованием технологий и соблюдением прав человека. Тем не менее перспективы таких технологий обещают революционные изменения во многих сферах.

Нейротехнологии могут быть применены в самых различных областях деятельности человека, в значительной степени упрощая и улучшая результативность его работы. Развитие роботизированных сервисов, появление новых способов и методов машинного обучения, повсеместные внедрения ИИ приведут к исключению возможности появления ошибок, допущенных человеком, освободив его от рутинного труда, расширят возможности компьютерных систем и анализа данных (вычислительные возможности).

Нейротехнологии вместе с ИИ способны стать самыми передовыми технологиями современности, ценность которых заключается в том, что в эпоху развития ИИ они позволяют усилить естественный интеллект путем соединения его с искусственным в одно целое. Это открывает новые возможности для человеческой деятельности, где будет наблюдаться не только повышение производительности, но и улучшение качества жизни, что делает нейротехнологии и ИИ важным элементом будущего общества29.

Группой сквозных технологий, которым отводится важное значение, признаны технологии ИИ. Важность ИИ подтверждается его возможностями в области автоматизации; его внедрение в производственные процессы способствует повышению производительности и улучшению качества продукции. Такие технологии открывают новые возможности для создания интеллектуальных систем, способных принимать решения и адаптироваться к изменениям в окружающей среде.

Создание Национальной стратегии развития искусственного интеллекта на период до 2030 года, утвержденной Указом Президента Российской Федерации от 10 октября 2019 г. № 490 «О развитии искусственного интеллекта в Российской Федерации», стало важным шагом к формированию государственной комплексной политики в данной области. Стратегия нацелена на создание условий для инновационного развития, внедрения технологий ИИ в различные сферы деятельности человека и обеспечения конкурентоспособности Российской Федерации на международном уровне.

Значимым шагом к тестированию новых подходов и решений в актуальных условиях является принятие Федерального закона от 24 апреля 2020 г. № 123–ФЗ «О проведении эксперимента по установлению специального регулирования в целях создания необходимых условий для разработки и внедрения технологий искусственного интеллекта в субъекте Российской Федерации – городе федерального значения Москве»30. Закон определяет основные цели, задачи и принципы государственной политики в сфере технологий ИИ и, что не менее важно, устанавливает механизмы взаимодействия между государственными органами, бизнесом, научными учреждениями. Это позволило выявить лучшие практики и адаптировать их для дальнейшего применения в других регионах страны.

Внесение изменений в статьи 6 и 10 Федерального закона от 27 июля 2006 г. № 152 «О персональных данных» также подчеркивает важность защиты данных в условиях быстрого развития ИИ31. Только установление четких границ использования ИИ может обеспечить безопасность и конфиденциальность данных, задействованных системами ИИ.

Перечисленные нормативно-правовые акты положили начало формированию правового регулирования технологий ИИ в Российской Федерации. Они создали правовые границы, которые будут адаптироваться в зависимости от развития самих технологий. Если ИИ уже находится в поле правового регулирования, то другие сквозные технологии (блокчейн, квантовые вычисления) пока не обеспечены специальным правовым регулированием. Создание подобного правового вакуума может потенциально замедлить их внедрение в экономику и другие сферы страны.

В отношении большинства других сквозных технологий специальное правовое регулирование пока отсутствует. Вместе с этим Федеральный закон от 31 июля 2020 г. № 258 «Об экспериментальных правовых режимах в сфере цифровых инноваций в Российской Федерации» предполагает создание правовых условий для ускоренного появления и внедрения новых продуктов и услуг применения цифровых технологий в разных сферах (технологий ИИ, нейротехнологий, цифровых двойников и т. д.). Данный Закон позволяет ввести экспериментальный правовой режим, то есть так называемое временное специальное регулирование в целях ускоренного внедрения результатов развития цифровых технологий на практике. Речь здесь идет в первую очередь именно о сквозных технологиях.

Такие сквозные технологии, как ИИ, большие данные, блокчейн (распределенные реестры), являются ключевыми элементами цифровой трансформации различных отраслей экономики и социальной сферы. Их потенциал для ускорения внедрения инноваций велик, однако в силу отсутствия постоянного правового регулирования могут возникать постоянные правовые и этические риски. В связи с этим введение экспериментальных правовых режимов позволит адаптировать существующие правовые нормы к новым условиям, подвергать тестированию инновационные технологии в реальных условиях без риска нарушения законодательства, а также создавать правовую базу для их дальнейшего полноценного внедрения.

Одной из важных задач такого подхода является обеспечение некоего баланса между балансом стимулирования инновационной активности и защитой прав участников рынка, включая и граждан, данные которых могут использоваться в ходе экспериментов. Введение временного правового регулирования направлено, с одной стороны, на поддержку бизнеса, а с другой – на защиту принципов безопасности и конфиденциальности данных.

Приведенный подход позволяет ускорить выход на рынок новых технологий, устраняя те преграды, которые связаны с бюрократическими и правовыми барьерами. Именно оптимизация способствует быстрому внедрению инноваций, что особенно важно в стремительно развивающейся сфере технологий ИИ. При этом необходимо учитывать, что ускорение выхода на рынок не должно влиять на снижение стандартов безопасности и защиты прав граждан. Здесь следует руководствоваться сохранением баланса между быстрым внедрением технологии и ее тщательной проверкой.

Безусловно, в будущем будет разработано более детальное правовое регулирование технологий, обеспечивающее гармоничное развитие ИИ с сохранением конкурентных преимуществ и соблюдением этических и правовых норм. Мы уже сейчас наблюдаем, как законодатель работает над созданием гибкой правовой среды, способствуя и инновациям, и защите интересов общества и отдельных его категорий граждан.

Развитие и использование технологий ИИ должны основываться на ряде ключевых принципов. В первую очередь речь идет о принципах, вытекающих из Национальной стратегии развития искусственного интеллекта: защиты прав и свобод человека, безопасности, прозрачности, технологического суверенитета, целостности инновационного цикла, наиболее эффективного использования технологий ИИ, поддержки конкуренции, открытости и доступности, преемственности, защищенности, достоверности исходных данных32.

Ключевыми целями развития технологии ИИ в Российской Федерации, определенными с учетом перечисленных принципов, являются33:

• обеспечение роста благосостояния и качества жизни граждан. Технологии ИИ способны трансформировать различные отрасли экономики, делая услуги более качественными и доступными, что ведет к общему улучшению условий жизни, повышению уровня доходов и созданию новых возможностей для самореализации; это достигается за счет автоматизации процессов, повышения эффективности труда и улучшения доступа к таким жизненно важным услугам, как медицина, социальная поддержка и образование;

• обеспечение национальной безопасности и правопорядка. Технологии ИИ используются для повышения эффективности работы правоохранительных органов по предотвращению преступлений, обеспечению кибербезопасности и защите важных инфраструктур (современные технологии ИИ сегодня уже помогают выявлять потенциальные криминальные угрозы на самых ранних этапах, что способствует поддержанию стабильности и безопасности в государстве; успешно расследуются преступления прошлых лет). Внедрение ИИ в системы мониторинга, анализа данных и прогнозирования поможет минимизировать внешние и внутренние угрозы;

• достижение устойчивой конкурентоспособности в отечественной экономике. Инновационные технологии способствуют росту как уже сложившихся, так и новых отраслей экономики и стимулируют ее производительность. В будущем технологии ИИ могут стать двигателем экономического роста, помогая отечественным компаниям занимать лидирующие позиции на международном рынке, а само их развитие сможет укрепить позиции Российской Федерации как одного из лидеров в этой области, что положительно скажется на росте экспорта передовых решений и услуг. Со временем технологии на основе ИИ станут главным фактором роста экономика.

Включение нейротехнологий и ИИ в перечень важнейших, основных элементов цифровой трансформации отражает их исключительную роль в развитии национальной экономики и технологической независимости. Каждая из технологий, созданная на основе ИИ, направлена на решение критически важных задач, к числу которых относятся: обеспечение технологической независимости; развитие экспортного потенциала; достижение целей импортозамещения.

1.Колин К. К. Информатизация общества и социальная информатика // Вестник Челябинской государственной академии культуры и искусств. 2009. № 3 (19). С. 6.
2.См.: Указ Президента Российской Федерации от 10 октября 2019 г. № 490 «О развитии искусственного интеллекта в Российской Федерации» // СЗ РФ. 2019. № 41. Ст. 5700; Федеральный закон от 24 апреля 2020 г. № 123–ФЗ «О проведении эксперимента по установлению специального регулирования в целях создания необходимых условий для разработки и внедрения технологий искусственного интеллекта в субъекте Российской Федерации – городе федерального значения Москве и внесении изменений в статьи 6 и 10 Федерального закона „О персональных данных“» // СЗ РФ. 2020. № 17. Ст. 2701.
3.См.: Китай запатентовал в 6 раз больше изобретений с ИИ, чем США // Хайтек+. URL: https://hightech.plus/2024/07/04/kitai-zapatentoval-v-6-raz-bolshe-izobretenii-s-ii-chem-ssha (дата обращения: 04.07.2024).
4.См.: Разработчики нейросетей об отрасли // PRO Hi-Tech. YouTube. URL: https://www.youtube.com/watch?v=XYbqey-bdlI (дата обращения: 14.06.2024).
5.См.: «Все умрут, включая детей». Как искусственный интеллект изменит интернет и почему этого боится даже Илон Маск // Lenta.ru. URL: https://lenta.ru/articles/2023/04/06/evilgpt/ (дата обращения: 14.06.2024); Бывшие сотрудники OpenAI считают, что ее деятельность угрожает человечеству // Хайтек+. URL: https://hightech.plus/2024/06/05/bivshie-sotrudniki-openai-schitayut-chto-ee-deyatelnost-ugrozhaet-chelovechestvu (дата обращения: 02.07.2024).
6.См.: ChatGPT превзошел на экзаменах студентов-психологов, обманув защиту экзаменов от ИИ // Хайтек+. URL: https://hightech.plus/2024/07/01/chatgpt-prevzoshel-na-ekzamenah-studentov-psihologov-obmanuv-zashitu-ekzamenov-ot-ii (дата обращения: 02.07.2024).
7.См.: Автономные боты GPT–4 научились взламывать сайты через неизвестные уязвимости // Хайтек+. URL: https://hightech.plus/2024/06/10/avtonomnie-boti-gpt-4-nauchilis-vzlamivat-saiti-cherez-neizvestnie-uyazvimosti (дата обращения: 12.06.2024).
8.См.: OpenAI отключила ИИ, который боролся за пост мэра одного из городов Вайоминга // Хайтек+. URL: https://hightech.plus/2024/06/28/openai-otklyuchila-ii-kotorii-borolsya-za-post-mera-odnogo-iz-gorodov-vaiominga (дата обращения: 02.07.2024).
9.См.: Мира Мурати из OpenAI: «ИИ уничтожит творческие специальности, которых не должно быть» // Хайтек+. URL: https://hightech.plus/2024/06/27/mira-murati-iz-openai-ii-unichtozhit-te-tvorcheskie-specialnosti-kotorih-ne-dolzhno-bit (дата обращения: 02.07.2024).
10.См.: Фейковизация как средство информационной войны в интернет-медиа: научно-практическое пособие / Е. И. Галяшина, В. Д. Никишин, К. М. Богатырев, Е. Г. Пфейфер. М.: Блок-Принт, 2024. 144 с.
11.См.: На наших глазах ИИ убивает старый интернет. Но новый обещает быть хуже // Хабр. URL: https://habr.com/ru/companies/itglobalcom/articles/747488/ (дата обращения: 02.07.2024).
12.См.: Гоббс Т. Левиафан / пер. с англ. А. Гутермана. М.: АСТ, 2021. 800 с.
13.Summary of NATO's Revised Artificial Intelligence (AI) Strategy // North Atlantic Treaty Organization. URL: https://www.nato.int/cps/en/natohq/official_texts_227237.htm (дата обращения: 10.07.2024).
14.См.: «Эта штука пугает». Что такое теория мертвого интернета и почему ее сторонники верят, что в сети не осталось живых людей // Lenta.ru. URL: https://lenta.ru/articles/2022/11/23/dead_internet_theory/ (дата обращения: 14.06.2024).
15.См.: Аугментация человека // Глоссарий Цифрового маркетплейса. URL: https://platforms.su/glossary/human-augmentation (дата обращения: 20.07.2024).
16.См.: Никитин Г. М. Антропогенез и проблемы киборгизации современного // Контекст и рефлексия: философия о мире и человеке. 2020. Т. 9. № 2А. С. 156–163.
17.См.: Публичный аналитический доклад по направлению «Нейротехнологии» / Федеральный реестр экспертов научно-технической сферы. ФГБНУ НИИ РИНКЦЭ, 2014. С. 108.
18.См.: Американскому художнику пришлось избавиться от камеры в затылке // Lenta.ru. URL: https://lenta.ru/news/2011/02/11/back/ (дата обращения: 14.06.2024).
19.См.: Моторика. URL: https://motorica.org/company (дата обращения: 22.07.2024).
20.См.: Илону Маску разрешили вживлять импланты в мозг людей // Хайтек+. URL: https://hightech.plus/2023/05/26/ilonu-masku-razreshili-vzhivlyat-implanti-v-mozg-lyudei (дата обращения: 22.07.2024).
21.См.: Neuralink вживила чип в мозг второму пациенту // Хайтек+. URL: https://hightech.plus/2024/08/05/neuralink-vzhivila-chip-v-mozg-vtoromu-pacientu (дата обращения: 07.08.2024).
22.См.: Имплант Neuralink у первого пациента частично потерял связь с мозгом // Хайтек+. URL: https://hightech.plus/2024/05/16/implant-neuralink-u-pervogo-pacienta-chastichno-poteryal-svyaz-s-mozgom (дата обращения: 22.07.2024).
23.Neuralink Fits Its First Human Patient with a Brain Interface // New Atlas. URL: https://newatlas.com/computers/neuralink-first-human-patient/ (дата обращения: 22.07.2024).
24.См.: Новый стартап Ильи Суцкевера займется сверхразумным ИИ и ничем другим // Хайтек+. URL: https://hightech.plus/2024/06/20/novii-startap-ili-suckevera-zaimetsya-sverhrazumnim-ii-i-nichem-drugim (дата обращения: 02.07.2024).
25.См.: Исследователи впервые «вскрыли мозг» ИИ и поняли, как на него можно влиять // Хайтек+. URL: https://m.hightech.plus/2024/06/20/otkritie-v-balanse-immunnih-kletok-pomozhet-vilechit-autoimmunnie-zabolevaniya (дата обращения: 20.06.2024).
26.См.: Müller O., Rotter S. Neurotechnology: Current Developments and Ethical Issues // Frontiers in Systems Neuroscience. 2017. Vol. 11. № 93; Active Tactile Exploration Using a Brain-Machine-Brain Interface / J. E. O'Doherty, M. A. Lebedev, P. J. Ifft et al. // Nature. 2011. № 479. P. 228–231; Боровская Е. В., Давыдова Н. А. Основы искусственного интеллекта. 4-е изд. М.: Лаборатория знаний, 2020. 130 c.; Ефимова С. А. Развитие искусственного интеллекта // Цифровая наука. 2020. № 6. С. 49–58.
27.См.: Косоруков А. А. Технологии искусственного интеллекта в современном государственном управлении // Социодинамика. 2019. № 5. С. 43–58.
28.См.: Дорожная карта развития «сквозной» цифровой технологии «Нейротехнологии и искусственный интеллект» // Министерство цифрового развития, связи и массовых коммуникаций Российской Федерации. URL: https://digital.gov.ru/ru/documents/6658/ (дата обращения: 30.07.2024).
29.См.: Филипова И. А. Нейротехнологии: развитие, применение на практике и правовое регулирование // Вестник СПбГУ. Право. 2021. Т. 12. Вып. 3. С. 502–521.
30.См.: Федеральный закон от 24 апреля 2020 г. № 123–ФЗ «О проведении эксперимента по установлению специального регулирования в целях создания необходимых условий для разработки и внедрения технологий искусственного интеллекта в субъекте Российской Федерации – городе федерального значения Москве и внесении изменений в статьи 6 и 10 Федерального закона „О персональных данных“» // СЗ РФ. 2020. № 17. Ст. 2701.
31.См.: Федеральный закон от 31 июля 2020 г. № 258–ФЗ «Об экспериментальных правовых режимах в сфере цифровых инноваций в Российской Федерации» // СЗ РФ. 2020. № 31 (ч. I). Ст. 5017.
32.См.: Указ Президента Российской Федерации от 10 октября 2019 г. № 490 «О развитии искусственного интеллекта в Российской Федерации» (вместе с «Национальной стратегией развития искусственного интеллекта на период до 2030 года») // СЗ РФ. 2019. № 41. Ст. 5700.
33.Там же.
Altersbeschränkung:
0+
Veröffentlichungsdatum auf Litres:
13 November 2025
Datum der Schreibbeendigung:
2024
Umfang:
442 S. 5 Illustrationen
ISBN:
9785392451548
Rechteinhaber:
Проспект