Протекоа стотици илјади приватни разговори на четботот „Грок“

Стотици илјади приватни разговори што корисниците ги воделе на Грок, четботот со вештачка интелигенција на Елон Маск, станаа јавно достапни и видливи во резултатите од пребарувањето на Гугл, очигледно без знаење на корисниците.

Протекувањето се случило поради начинот на кој функционира функцијата за споделување разговори, објавува Би-Би-Си.

Кога корисниците на Грок ќе изберат да споделат транскрипт од нивниот разговор, се создава единствена врска. Сепак, покрај споделувањето на разговорот со избраната личност, функцијата се чини дека ги направила сите тие разговори достапни за пребарување преку интернет.

Брзата проверка на Гугл вчера покажа дека пребарувачот индексирал речиси 300.000 разговори на Грок. Форбс, кој прв го објави проблемот, наведе уште поголема бројка од над 370.000 разговори на корисници.

Меѓу јавно достапните транскрипти прегледани од Би-Би-Си се примери во кои корисниците бараат од четботот на Маск да креира безбедни лозинки, да обезбеди планови за оброци за слабеење и да одговори на детални прашања за здравствените состојби.

Некои од индексираните разговори, исто така, откриваат како корисниците се обидувале да ги тестираат границите на она што Грок би го кажал или направил. Во еден таков случај, четботот дал детални упатства за тоа како да се произведе лек од класа А во лабораторија.

Ова не е прв пат разговорите на корисниците со четботови со вештачка интелигенција да станат подостапни јавно отколку што планирале. OpenAI неодамна го прекина „експериментот“ во кој споделените разговори од ChatGPT се појавија во резултатите од пребарувањето.

Во тоа време, портпарол изјави за Би-Би-Си њус дека тие „тестираат начини за полесно споделување корисни разговори, а воедно и корисниците да имаат контрола“. Тие нагласија дека разговорите се приватни по дифолт и дека корисниците мора експлицитно да се согласат да ги споделат.

Порано оваа година, Мета се соочи и со критики откако разговорите со нејзиниот четбот Мета АИ се појавија во јавниот канал „discover“ на апликацијата.

Иако податоците за корисничката сметка во споделените транскрипти можат да бидат анонимизирани, самите барања можат да откријат и лични и чувствителни информации. Експертите велат дека случајот ги истакнува растечките загрижености за приватноста на корисниците.

„Четботовите со вештачка интелигенција се катастрофа за приватноста во развој“, изјави за Би-Би-Си проф. Лук Роше, вонреден професор на Оксфордскиот интернет институт. Тој рече дека „протечените разговори“ од четботовите откриле информации за корисниците, од целосни имиња и локации до чувствителни детали за нивното ментално здравје, бизниси или лични врски.

„Откако ќе се објават онлајн, тие разговори ќе останат таму засекогаш“, додаде тој.

Кариса Велиз, вонреден професор по филозофија на Институтот за етика во вештачката интелигенција на Универзитетот во Оксфорд, го дели сличниот став. Таа смета дека е „проблематично“ што на корисниците не им е јасно дадено до знаење дека нивните споделени разговори ќе се појават во резултатите од пребарувањето.

„Нашата технологија дури и не ни кажува што прави со нашите податоци и тоа е проблемот“, заклучи таа.