Съдията налага глоби на адвокати за използване на измамни правни изследвания, генерирани от изкуствен интелект

Един съдия от САЩ рязко критикува две адвокатски кантори за включване на фалшива правна информация, генерирана от изкуствен интелект, в съдебно подаване, наричайки го голям пропуск в правната отговорност.

Съдията Майкъл Уилнър, базиран в Калифорния, наложи глоба на фирмите от $31,000 след като откри, че основанието е изпълнено с „ложни, неточни и измамни правни цитати и кавъркатури“, както първоначално беше докладвано от WIRED.

„Никой разумно компетентен адвокат не би трябвало да прехвърля изследванията и писането към изкуствен интелект“, написа Уилнър във своята решение, предупредително, че е близо до включване на фалшивите дела в съдебен указ.

„Прочетох техният кратък доклад, бях убеден (или поне заинтригуван) от органите, които те цитираха, и потърсих решенията, за да науча повече за тях – само за да открия, че те не съществуват“, каза той, както е цитиран от WIRED. „Това е страшно“, добави той.

Ситуацията възникна по време на гражданско дело срещу State Farm. Един адвокат използва инструменти за изкуствен интелект, за да състави правен план. Този документ, съдържащ фалшиво изследване, беше предаден на по-голямата адвокатска кантора K&L Gates, която го добави към официално подаване.

„Нито един адвокат или служител от двете кантори, явно не провери или по друг начин не прегледа това изследване преди подаване на иска“, отбеляза Уилнър, както е съобщено от WIRED.

След като откри, че поне два от цитираните случаи са напълно измислени, съдият Уилнър попита K&L Gates за уточнение. Когато те представиха нова версия, се оказа, че включва още повече фалшиви цитати. Съдият поиска обяснение, което разкри заклети изявления, признаващи използването на AI инструменти, както е докладвано от WIRED.

Уилнър заключи: „Първоначалното, неразкрито използване на AI продукти за генериране на първата версия на становището бе напълно грешно […] И изпращането на този материал до други адвокати без разкриване на неговия съмнителен произход от AI реално излага тези професионалисти на опасност“, както е докладвано от WIRED.

Това не е първият път, когато ИИ създава проблеми в съдебните зали. Наистина, двама адвокати от Уайоминг наскоро признаха, че са използвали фалшиви дела, генерирани от ИИ, в подаването на съдебно обвинение срещу Walmart. Федералният съдия заплаши да ги санкционира също така.

В този сценарий, „халюцинациите“ на ИИ – измислена информация, генерирана от инструменти на ИИ – стават все по-голям проблем в правната система.