Ясната граница между истинските и изкуствено генерираните видеа може да изчезне през 2025 година

Съдържанието, генерирано от изкуствен интелект, е тук, за да остане. То става все по-добро и по-добро и наблюдавахме значителен напредък в технологиите на изкуствен интелект през 2024 година. Ще успеем ли да разграничим реалното от нереалното през 2025?

На скоро се намерих да попитам: „Това наистина ли е истинска жена?“ – като мръщех малко очи – след като видях публикация в Instagram. „Не, това трябва да е генерирано от изкуствен интелект“, заключих след момент. Тогава веднага се запитах: Ще успеем ли все още да разграничим разликата в рамките на секунди следващата година? Всички знаци сочат, че не, особено в социалните медии, както предполагат големите нови разработки в технологията на изкуствен интелект.

Преди няколко дни, шефът на Instagram, Адам Мосери, сподели съобщение по този въпрос в Threads. „Генериращата AI ясно създава съдържание, което е трудно да се различи от записи на реалността и се подобрява бързо“, написа той. Мосери публично призна, че имат трудности в Meta при маркирането на съдържание, създадено от AI, и контрола и наблюдение на масивните количества медии, които се споделят всеки секунди на техните социални медийни платформи.

Мосери освободи Meta от отговорност и предупреди потребителите, че зависи от тях да разграничат дали дадена публикация е истинска или не. „Все по-важно ще бъде зрителят или читателят да проявява разбиращ ум, когато консумират съдържание, което твърди, че е отчет или запис на реалността“, добави той.

Само няколко дни по-късно, OpenAI пусна Sora Turbo, мощният си генератор за AI видео, позволяващ на Pro и Plus потребителите да генерират реалистични видеа от текстови заявки. В рамките на само няколко минути потребителите започнаха да създават увлекателни реалистични видеоклипове и ги споделяха в социалните медии.

Точно когато всичко изглеждаше да достига ново ниво на видео продукция, Google обяви своя последен AI видео инструмент, Veo 2, с по-висока резолюция и по-дълги клипове от Sora. Разбира се, резултатите, споделени от тези, които имаха достъп до напредналата технология, бяха още по-впечатляващи.

„Никой не може да каже, че това е изкуствен интелект сега“, написа един потребител.

Приключи.

Google Veo 2 просто изтри голяма част от конкуренцията и стана новият крал на света на медиите с изкуствен интелект.

Никой не може да каже, че това е изкуствен интелект сега.

10 диви примера: pic.twitter.com/MKAN4Lwj6m

— el.cine (@EHuanglu) 17 декември, 2024

Това вече се случва

През 2024 година станахме свидетели на това как съдържанието, генерирано от изкуствения интелект, повлия на населението, изборите и потребителите на социалните медии.

През януари, жителите на New Hampshire получиха обаждане „от Joe Biden“, който им казваше да не гласуват на примарните избори. Политическият консултант Steve Kramer беше зад тази измама и беше глобен с 6 милиона долара за изкуствено генерираните робо обаждания. Правителствата започват да осъзнават влиянието, което изкуственият интелект може да има и държави като Сингапур разработват закони и стратегии, за да помогнат на населението да разпознава deepfake съдържание.

Във Венецуела, видеата, генерирани от изкуствен интелект, разпространяват дезинформация – но също така помагат на журналистите да информират чрез AI аватари, за да преодолеят цензурата.

Хората имат трудности да различат кое е истинско и кое не, и не е тяхна вина: съдържанието, генерирано от изкуствен интелект, става все по-добро и добро.

Висококачественото съдържание, генерирано от изкуствен интелект, е растящ бизнес във всичките му форми – текст, аудио и видео. Много създатели в OnlyFans в момента разчитат на чатботове, за да водят разговори със своите фенове, работа, която преди беше възлагана на служители на дълги постове в страни с по-ниски доходи. Новите модели на изкуствен интелект, специализирани във флиртови техники, дори са генерирали $1,000 от бакшиши от своите последователи.

През април, стартъпът Synthesia, подкрепен от Nvidia, пусна AI аватари, които могат да изразяват човешки емоции и да говорят на 130 езика. TikTok позволява на компаниите да създават AI-генерирани реклами, използвайки съдържанието на Getty Images, а сега създателите на YouTube могат да използват новата функция за автоматично озвучаване с AI, за да превеждат своето съдържание на 9 езика, а бъдещи актуализации ще репликират оригиналния глас.

Zoom работи върху създаването на AI аватари, които изглеждат точно като потребителите, за да им помогне да записват съобщения и дори да участват в срещи. Този инструмент ще бъде пуснат през следващата година, но хората вече са тествали няколко инструмента и компаниите вече могат да създават фотореалистични AI клонове.

Сигурни ли сте, че говорихте с истински човек по време на последното си Zoom обаждане?

Как Да Разберем Дали Е Създадено От Изкуствен Интелект? За Сега

Живеем в объркващи времена в тази дигитална ера. Филтрите могат да накарат всеки да изглежда като модел с безупречна кожа, а корекции достойни за Photoshop са само на един клик разстояние в Instagram или Snapchat – колко лица биха искали да споделят своята „естествена“ визия, с всичките й недостатъци, когато може да бъде подобрена за секунди? Виждаме все повече реклами, в които фотореалистични изображения, генерирани от изкуствен интелект, постепенно убеждават очите ни в тяхната познатост и „нормалност“. И всеки ден, изненадващи събития по света ни карат да се питаме: какво е истинско, и какво вече не е?

Големите компании за изкуствен интелект, работят по водни знаци, за да откриват лесно съдържанието, генерирано от тяхната AI. Google DeepMind стартира своята система за воден знак с отворен код през октомври, за да маркира AI видеа, текст и аудио, а Meta също включи такъв в своя инструмент за AI видео.

Но ефективността му е съмнителна, започвайки с това, че Meta просто призна, че не могат да маркират цялото съдържание, генерирано от AI. Злонамерени участници все още могат да открият начини за премахване на водните знаци и са необходими повече закони, партньорства и споразумения между социалните медии и правителствата, за да се постигне по-успешна система.

За сега, освен че се доверяваме на интуицията си, можем да си зададем няколко въпроса преди да споделим в социалните мрежи или да повярваме на това, което виждаме:

• Точно както Mosseri препоръча, обмислете следното: Кой споделя тази информация? Това е ли доверен източник?
• Изразът или движението на лицето изглежда ли роботично? Въпреки че изкуствените интелекти в облика на аватари могат да са доста реалистични, все още е възможно да усетите странна укрепеност или липса на емоция – въпреки че имайте предвид, че няколко компании като Synthesia вече подобряват това.
• Дизайнът на съдържанието е създаден ли да предизвика силна емоционална реакция? Злонамерените действащи лица знаят колко лесно споделяме негативните новини и взаимодействаме с емоционално натоварен материал в социалните медии, и потвърждава се от изследвания. Преди да споделите съдържанието, което ви накара да горите от гняв, за да разбудите същото чувство и при другите, помислете дали е създадено специално за да породи спорове или всъщност е истинска новина или реално събитие.
• Можете ли да потвърдите съдържанието с други източници? Да проверите с доверените източници никога не е излишно.

И накрая, зададохте ли си въпроса – или на предпочитания от вас чатбот – как да подобрите критичното си мислене? Развитието на критичен ум определено трябва да бъде сред новогодишните решения на всеки.