Мнение: ChatGPT ли е ваш приятел? Може би е добре да сложим граници

OpenAI и MIT наскоро публикуваха статия за влиянието на ChatGPT върху благосъстоянието на хората. Докато повечето потребители разчитат на технологията за практически задачи, изследването разкрива, че малка група развива дълбоки емоционални връзки с AI модела, които могат да повлияят на тяхното благосъстояние

От известно време наблюдавам с любопитство връзките, които някои хора развиват с генеративния изкуствен интелект. Преди няколко месеца прочетох във „The New York Times“ историята на 28-годишна жена, омъжена, която се влюби в ChatGPT, и какво, което започна като „забавен експеримент“, се превърна в сложна и неочаквана връзка.

Наблюдавам приятелите си, особено тези, които някога отказаха технологиите или не проявяваха интерес към тях, и които вече не могат да вземат голямо решение без да консултират своя AI оракул. Също така се изненадах от емпатичните отговори, които AI моделите дават на емоционално или психологически заредени въпроси.

И, разбира се, смеях се на шегите, меметата и TikTok видеата на хората в социалните медии, показващи колко са станали зависими от чат бота, някои дори го наричат своя „най-добър приятел“ или „терапевт“ – и дори сериозно препоръчват на други да направят същото.

Но ако за момент отстраним забавните преживявания и шегите, може да осъзнаем, че се сблъскваме с тревожен феномен на глобално ниво.

Този месец, за първи път в кратката история на изкуствения интелект, OpenAI и MIT Media Lab публикуваха изследване, което предлага вглед в текущото въздействие на ChatGPT върху емоционалното благосъстояние на хората, както и предложения за рисковете, с които можем да се сблъскаме като общество: самота, емоционална зависимост и по-малко социални взаимодействия с истински хора.

Връзка, която се развива

Първата среща с новите генеративни технологии за изкуствен интелект често започва с няколко сдържани въпроса, може би технически, свързани с практически задачи като съставяне на имейл или искания за обяснение на сложни теми, или просто за мозъчна атака.

Въпреки това, когато потребител започне да тества възможностите на чатбота, той открива, че те могат да бъдат по-широки и по-сложни от очакваното.

Докато определени AI продукти като Friend—носимо AI устройство—са проектирани и доста неловко популяризирани като животни спътници на потребителя, ChatGPT е бил рекламиран като инструмент за продуктивност. Въпреки това, даден процент от хората използват чатбота за лични и емоционални въпроси и развиват силни връзки с него.

Дори и да са само „малка група“, както уточни OpenAI, те все още могат да представляват милиони хора по целия свят, особено като се вземе предвид, че вече повече от 400 милиона души използват ChatGPT седмично. Тези потребители бързо забелязват, че чатботът на OpenAI имитира езика, тона и стила им и може дори да бъде обучен да взаимодейства по определен начин или да използва питомни имена – както направи жената, която се влюби в него – и дори да „звучи“ по-човешки.

„Стилът им на разговор, използването на език от първо лице и способността да симулират интеракции, подобни на човешките, често водят до това потребителите да персонифицират и антропоморфизират тези системи,“ заявява документът, споделен от OpenAI.

Но тази близост носи и рискове, както забелязаха изследователите: „Докато емоционално ангажиращият чатбот може да осигури подкрепа и компания, съществува риск той да манипулира социоафективните нужди на потребителите по начини, които подкопават дългосрочното благополучие.“

Методология на изследването

Наскоро публикуваното изследване се фокусира върху благосъстоянието на хората след постоянна употреба на ChatGPT. За да разберат емоционалния и социален въздействие на чатбота, изследователите проведоха две основни проучвания, прилагайки различни стратегии.

OpenAI обработи и анализира над 40 милиона взаимодействия, с уважение към потребителската поверителност, използвайки класификатори, и проучи над 4,000 от тях за това как взаимодействията ги накараха да се чувстват.

MIT Media Lab проведе изпитание с почти 1,000 души в продължение на месец, фокусирайки се върху психосоциалните последствия от използването на ChatGPT за поне 5 минути на ден. Те също така изпратиха и обработиха анкети в края на експеримента.

Не е изненадващо, че резултатите показаха, че потребителите, които прекарват повече време с технологиите, изпитват повече самота и показват повече признаци на изолация.

Сложни последствия и множество въздействия

Изследването на MIT Media Lab и OpenAI също предложи няколко размисли за това колко сложни и уникални могат да бъдат връзките между човека и чатботовете.

В изследването авторите ни предоставят възможност да надникнем в разнообразните преживявания и начините, по които всеки потребител взаимодейства с ChatGPT – и как резултатите могат да варират в зависимост от различни фактори, като използването на напреднали гласови функции, режим само с текст, типа на гласа, честотата на използване, темите на разговорите, езика, който се използва, и времето, прекарано в приложението.

„Съветваме срещу обобщаването на резултатите, тъй като това може да замъгли нюансирани наблюдения, които подчертават нетипичните, сложни взаимодействия между хората и системите за изкуствен интелект“, предупреждава OpenAI в своята официална обява.

Всички различни подходи, които всеки потребител избира, се превръщат в различни резултати и ни потапят в сиви зони, които са трудни за изследване.

Това е Ефектът на пеперудата в ИИ!

Възникват Още Въпроси

Статията, споделена от OpenAI, също отбелязва, че активните потребители заявиха, че ще бъдат „разочаровани“, ако гласът или личността на техния чатбот се промени.

Това ме накара да си спомня за видео, което наскоро видях в социалните медии, в което един мъж казваше, че предпочита женски глас и че говори с генеративния AI всеки ден. Може ли ChatGPT да помага и на мъжете да се отварят емоционално? Какво би станало, ако един ден ChatGPT започне да говори с мъжки глас? Ще се чувства ли изневерен? Ще спре ли да използва ChatGPT? Развива ли романтична връзка или просто пространство на доверие? Разбира се, е трудно да не свържем тези сценарии незабавно с филма на Spike Jonze „Her“.

Всеки акаунт в ChatGPT, заедно с историята на чатовете в него – всеки ден по-интимни и лични от всяко профил в WhatsApp или лични съобщения в социалните мрежи – представлява уникална връзка с безброй последствия и резултати.

Очакваният резултат

Всички проучвания анализираха различни аспекти, но достигнаха до подобен заключение, кратко обяснено в MIT Technology Review: “Участниците, които се довериха и ‘създадоха връзка’ със ChatGPT повече, бяха по-склонни да се чувстват самотни и да разчитат повече на него.”

Докато разследването не се фокусираше върху решения или по-дълбоки обяснения защо това се случва или как може да се развие, изглежда вероятно, че повече потребители ще се присъединят към OpenAI и други AI платформи, особено сега, когато инструментът за генериране на AI изображения стана вирусен.

Въпреки че заключенията от изследването на MIT и OpenAI не са особено изненадващи, изследването предоставя научна основа с доказателства, измервания, примери и по-„тангибилни“ метрики, които биха могли да подготвят пътя за по-нататъшни изследвания и да помогнат да се справят с последиците от използването на изкуствен интелект днес.

Също така получихме официално предупреждение – от собствените му разработчици – относно връзките, които изграждаме с ChatGPT и покана да установим граници и да размислим върху нашите взаимодействия и настоящи отношения – или може би ситуации? – с чатботове.