Philip Dulian/dpa/Global Look Press
Авторы доклада, в котором тестируется технология, лежащая в основе запрета на использование социальных сетей для подростков в Австралии, признали, что при редактировании использовался ChatGPT, но отрицают, что ряд ошибок в цитировании в докладе был вызван «галлюцинациями» искусственного интеллекта, пишет The Guardian.
В ходе технологического испытания стоимостью 3,48 миллиона долларов, проведённого в прошлом году британской организацией Age Check Certification Scheme (ACCS), были протестированы различные технологии, которые могут использоваться платформами социальных сетей в рамках запрета на использование социальных сетей для лиц младше 16 лет.
Министр по делам коммуникаций Австралии Аника Уэллс заявила, что доклад демонстрирует «множество эффективных способов» проверки возраста пользователей, и это подготовило почву для вступления в силу запрета в декабре прошлого года.
Большая часть доклада основана на проведённых авторами тестах различных доступных на данный момент технологий проверки возраста, но в одной из глав рассматриваются «новые технологии» и приводится ряд научных статей о потенциальных новых способах проверки возраста, пишет The Guardian.
В ходе продолжающегося расследования сената, направленного на дальнейшее ужесточение закона о запрете на использование социальных сетей, было получено заявление, в котором указывалось как минимум на две ошибки в цитировании в докладе. «Цитаты, по всей видимости, сгенерированы искусственным интеллектом, а не взяты из реальных источников», — говорится в сообщении.
В ответ на запрос Guardian Australia представитель ACCS сначала отрицал использование искусственного интеллекта при подготовке доклада, но позже признал, что ИИ был использован для более лаконичного изложения некоторых абзацев.
«Мы не использовали искусственный интеллект при подготовке доклада или цитируемых материалов… Каждая ссылка была проверена на подлинность, а также на соответствие конкретной теме, к которой она относится», — заявили в ACCS.
Однако проведённый Guardian Australia анализ доклада выявил шесть ссылок в том же разделе, которые содержали ошибки. Среди них: идентификаторы цифровых объектов (DOI — уникальные комбинации букв и цифр, которые присваиваются конкретным научным статьям), ведущие на несуществующие статьи; DOI, указывающие на неверные статьи; сочетания имён авторов, названий журналов и годов публикации, которые не соответствуют ни одной из известных ссылок; а также ссылки DOI на статьи, в которых не говорится о том, о чём говорится в докладе.
Позже представитель ACCS предоставил разъяснения и новые ссылки на исследования, на которые опиралась организация, но и в этом ответе содержались ошибки.
В списке журнальных статей, призванных исправить ошибки в докладе, были указаны годы, авторы и названия журналов, не соответствующие исходным ссылкам в докладе.
Одна из статей, на которую ссылается ACCS, была опубликована в марте 2025 года. Однако один из ведущих авторов этого исследования подтвердил в беседе с The Guardian, что их статья не была доступна в открытом доступе до публикации в июне 2025 года. Он также подтвердил, что человек, которого ACCS изначально указала в качестве ведущего автора статьи, «Джамиль», никогда не был указан в качестве автора, а в отчёте ACCS их статья была пересказана неверно.
Представитель ACCS дал дополнительные разъяснения по поводу ещё одной ссылки, которую не удалось найти в указанном журнале, — «Weber et al. 2011». Он сообщил, что она была процитирована в исследовании Университета Монаша, с которым они ознакомили The Guardian. Однако в статье Университета Монаша, которую прислали в ACCS, не было ссылки на Вебера.
Представитель ACCS признал, что в отчёте использовался искусственный интеллект. Он заявил, что, включив метаданные ChatGPT в ссылки, организация раскрыла информацию об использовании искусственного интеллекта, и, поскольку ссылки были корректными, он не видел в этом проблемы. По его словам, искусственный интеллект использовался для более лаконичного изложения некоторых абзацев, но не применялся для проведения исследований или подготовки отчёта.
Ранее федеральное правительство Австралии неодобрительно относилось к тому, что подрядчики используют искусственный интеллект при подготовке отчётов для правительства. В прошлом году компания Deloitte вернула правительству часть средств из контракта на сумму 440 000 долларов после того, как были выявлены ошибки, и сама консалтинговая фирма признала, что использовала искусственный интеллект.
На слушаниях в Сенате в пятницу представители министерства сообщили, что встречались с представителями ACCS, которые заявили, что ошибки возникли из-за неработающих ссылок, которые ранее были активными. Представители министерства не стали самостоятельно проверять эту информацию, заявив, что это было бы «очень сложно». По их словам, это была «горстка ошибок» на 26 страницах с цитатами из отчёта объёмом в 1000 страниц.
Профессор Кристиан Дауни из Школы регулирования и глобального управления Австралийского национального университета, который ранее изучал материалы, подаваемые в государственные органы и содержащие «галлюцинации» искусственного интеллекта, заявил, что если в отчётах или материалах, подаваемых в государственные органы, будут обнаружены ложные ссылки — будь то ссылки на источники, сгенерированные искусственным интеллектом, или на что-то другое, — это может привести к принятию неверных решений и «подорвать общественное доверие к государственным институтам».
