Призив към Apple да премахне функцията на изкуствения интелект след контроверсия с неверен заглавие

Основен орган за наблюдение на журналистиката призова Apple да оттегли своята генеративна AI функция, след като инструментът лъжливо присвои заглавие за един много обсъждан убийствен случай на BBC News.

BBC съобщи в четвъртък, че възникна спор след премиерата на новата функция на Apple, Apple Intelligence, която генерира главна новина неправилно. Тя предположи, че Luigi Mangione, заподозрян в убийството на изпълнителния директор на здравноосигурителна компания Brian Thompson, е извършил самоубийство. BBC не бяха публикували такава статия.

Репортери без граници (RSF), международна организация, защитаваща свободата на пресата, критикуваха Apple, като посочиха, че инцидентът подчертава рисковете, които неузрелите AI инструменти могат да представляват за медийната достоверност и общественото доверие.

Венсан Бертие, началник на отдела за технологии и журналистика на RSF, осъди грешката, наричайки я „удар във веродостойността на изданието“ и заплаха за обществения достъп до надеждна информация. RSF настояха Apple да премахне функцията незабавно.

„Европейският закон за изкуствен интелект – въпреки че е най-прогресивното законодателство в света в тази област – не класифицира информационно-генериращите ИИ системи като системи с висок риск, оставяйки критична правна празнина. Тази липса трябва да бъде запълнена веднага,“ каза Бертие.

BBC потвърди, че е подала официална жалба до технологичния гигант и е поискала решение, но все още не е ясно дали Apple е отговорила.

С грешките в резюметата на изкуствения интелект не беше ограничен само до BBC News. На 21 ноември, функцията неточно резюмира статия от New York Times, лъжовно предполагаща, че израелският министър-председател Бенямин Нетаняху е бил арестуван, както беше съобщено в статията на BBC.

Това известие, по-късно подчертано от журналиста Кен Швенке, всъщност се отнасяше до заповед за арест на Международния наказателен съд срещу Нетаняху.

Съобщенията за известия от Apple AI продължават да бъдат толкова, толкова, толкова лоши

[image or embed]

— Кен Швенке (@schwanksta.com) 21 ноември 2024 г. в 16:22

Apple Intelligence има за цел да намали прекъсванията от известия, като ги обобщава и групира. Наличен на iPhones с iOS 18.1 и по-нови модели, както и на избрани iPads и Macs, инструментът е изправен пред критика за неправилно представяне на информация от уважавани новинарски източници.

Представителят на BBC подчерта, че докато някои групирани известия правилно обобщаваха истории за глобални събития, дезинформацията, свързана с Mangione, демонстрираше потенциала на технологията да навреди както на медийни организации, така и на общественото разбиране.

RSF предупреди, че „Този инцидент илюстрира, че генеративните AI услуги все още са твърде незрели, за да предоставят надеждна информация за обществото и не би трябвало да се допускат на пазара за такива цели.“

Ars Technica рецензира резюметата на известията на Apple, отбелязвайки няколко проблема, които се появяват често. Първо, макар че някои резюмета са фактически верни, те звучат роботизирани и неловки, особено по чувствителни теми като отношения или психично здраве. Други не разбират сарказма, жаргона или идиоматични изрази, често ги тълкувайки твърде буквално.

Загубата на контекст е друг голям проблем, особено когато резюметата пропускат предишни съобщения в нишка или не вземат предвид мултимедийно съдържание. В групови чатове с множество теми, резюметата могат да станат претоварени, смесвайки теми и довеждайки до неточности.

Накрая, някои резюмета просто са напълно грешни, често заради опит да се сгъсти твърде много информация в твърде малко думи, което води до изкривени сметки. Общо взето, тези проблеми, които засягат полезността и точността на функцията, са чести в ежедневната употреба.

Мангионе, сега обвинен в убийство от първа степен, става ключов момент в дебата относно рисковете свързани с изкуствения интелект в журналистиката. Доверието на обществеността в надеждните новини е застрашено, докато Apple се сблъсква с нарастващо напрежение да се справи с проблема.