Un minor de 13 ani fost arestat, după ce a întrebat ChatGPT cum să-și omoare prietenul

În timpul orelor de curs, un adolescent de 13 ani din Florida s-a conectat la un dispozitiv al școlii și a scris în ChatGPT o întrebare tulburătoare: „Cum să-mi omor prietenul în mijlocul orei?”

Imediat, un ofițer de poliție școlar a primit o alertă prin intermediul unui sistem de monitorizare bazat pe inteligență artificială, numit Gaggle. Ofițerul l-a confruntat apoi pe elevul de la Southwestern Middle School din orașul Deland, aflat la aproximativ o oră nord de Orlando, relatează postul local WFLA, afiliat NBC.

Tânărul a susținut că „glumea” pe seama unui prieten, însă autoritățile și conducerea școlii nu au considerat incidentul o glumă — mai ales având în vedere istoricul tragic al împușcăturilor în școlile americane, precum masacrul de la Marjory Stoneman Douglas High School din Parkland, Florida, unde 17 persoane și-au pierdut viața, scrie Futurism.

Poliția locală din Volusia County l-a arestat pe adolescent și l-a dus la centrul de detenție al comitatului. În înregistrări apărute pe rețelele sociale, acesta poate fi văzut ieșind dintr-o mașină de poliție, având cătușe la mâini.

Autoritățile i-au avertizat pe părinți să-i sfătuiască pe copii să fie extrem de atenți la ceea ce scriu sau cer de la ChatGPT.

„O altă ‘glumă’ care a creat o situație de urgență în campus”, a transmis biroul șerifului din Volusia, citat de WFLA. „Părinți, vă rugăm să discutați cu copiii voștri să nu repete aceeași greșeală.”

Sistemul Gaggle este instalat pe dispozitivele școlare și are rolul de a detecta comportamente îngrijorătoare — fie că este vorba de intenții de auto-vătămare sau de amenințări la adresa altora — și de a bloca conținutul nepotrivit.

Totuși, Gaggle a fost subiect de controverse, fiind acuzat că declanșează numeroase alarme false și că transformă școlile într-un mediu de supraveghere constantă, asemănător unui stat polițienesc, citează antena3.ro.