Один из крупнейших игроков на рынке искусственного интеллекта и нейросетей, компания OpenAI, сообщила, что начала маркировать все изображения, которые создаются в ChatGPT и их API. Эксперты отмечают, что Россия тоже нуждается в регулировании рынка контента, созданного при помощи алгоритмов.
Количество фейков, распространяемых в интернете, растёт, пишет "Российская газета". Согласно данным АНО "Диалог Регионы", за 2023 год в российском сегменте интернета было зафиксировано 4 тысячи уникальных фейков и 12 миллионов случаев их распространения. По прогнозу экспертов, в 2024 году число уникальных фейков вырастет до 4,5 тысячи, а их копий - до 15 миллионов.
В конце декабря 2023 года премьер-министр России Михаил Мишустин поручил Минцифры "обеспечить проработку" мероприятий по выявлению недостоверных данных. В частности, речь идёт об идентификации контента, сгенерированного с использованием технологий искусственного интеллекта. Минцифры должно выполнить поставленную задачу к 19 марта 2024 года.
Эксперты отмечают ряд проблем, связанных с нерегулируемым применением ИИ для генерации контента. Это и нарушения авторских прав, и мошеннические действия с применением дипфейков. В частности, не так давно распространилась преступная схема, в рамках которой мошенники взламывали аккаунты пользователей в Telegram и рассылали сообщения с просьбой занять в долг. При этом в рассылке таких сообщений аудиодипфейки - практически беспроигрышный способ обмана, так как люди не привыкли, что сгенерировать можно и это. Насколько беззащитными окажутся люди, если это будут не просто голосовые сообщения, а видеозвонки в реальном времени - представить трудно.
При этом выявлять материалы, созданные с помощью ИИ, в России уже умеют - например, с помощью системы мониторинга "Зефир", разработанной АНО "Диалог Регионы".
Ранее astv.ru сообщал, что архангельский вуз разрешил писать диплом с помощью нейросети. Искусственный интеллект может сделать за студента до 40% работы.
