Google DeepMind пуска отворен софтуер за воден знак, за да помогне в откриването на текст, генериран от изкуствен интелект.

Google DeepMind стартира инструмент с отворен код за водни знаци, наречен SynthID-Text, тази сряда, за да помогне при откриването на текст, генериран от изкуствен интелект. Инструментът е достъпен за бизнеса и разработчиците безплатно и работи, като вгражда невидими водни знаци – незабележими за човешкото око – в текста по време на генерирането, чрез промяна на вероятностите на думите.

„Тук описваме SynthID-Text, схема за маркиране на текст, готова за производство, която запазва качеството на текста и позволява висока точност на откриване, с минимално забавяне“, се казва в резюмето на изследването, публикувано в Nature. „За да възможим маркирането в голям мащаб, разработваме алгоритъм, интегриращ маркирането със спекулативно изваждане, техника за ефективност, често използвана в производствените системи.“

Според MIT Technology Review, лабораторията за изследване на AI на технологичния гигант разработи технологията SynthID, за да създаде множество инструменти за водни знаци на AI, които сега могат да разпознават текст, музика, видео и изображения, генерирани от AI. Google DeepMind сподели видео, което обяснява как работи технологията в различни типове медии.

Here’s how SynthID watermarks AI-generated content across modalities. ↓ pic.twitter.com/CVxgP3bnt2

— Google DeepMind (@GoogleDeepMind) 23 октомври, 2024

SynthID е достъпен чрез инструментариума на компанията за отговорно генериране на AI – Google Responsible Generative AI Toolkit, а учени изследователи работят заедно с Hugging Face – съвместна платформа за разработчици, която предлага и други проекти с отворен код, като учебният курс на LeRobot за създаване на AI-управлявани роботи вкъщи, за да го споделят и на тяхната платформа.

„Сега, други разработчици на [генеративни] AI ще могат да използват тази технология, за да им помогне да разберат дали текстовите изходи идват от техните собствени [големи езикови модели], което прави по-лесно за повече разработчици да създават AI отговорно“, каза Пушмийт Коли, вицепрезидент на отдел „Изследвания“ в Google DeepMind, за MIT Technology Review.

SynthID е бил тестван в продуктите на Google Gemini, и милиони потребители не са успели да направят разлика между воднозначени и неводнозначени съдържания. Въпреки това, изследователите признават, че има ограничения, когато текстът е бил редактиран или преведен, но остават оптимисти и вярват, че инструментът може да помогне в борбата срещу дезинформацията и да подобри сигурността на изкуствения интелект.

Множество технологични компании обявяват стратегии за маркиране на AI съдържание през последните месеци. Meta обяви през февруари система за идентифициране на AI съдържание в Instagram, Facebook и Threads, Google изисква от потребителите да маркират AI съдържание през март, а Тикток добави етикети към AI генерирано съдържание през май.