Grok i Elon Musk nën kritika për gjenerimin e imazheve eksplicite të inteligjencës artificiale të të miturve

Grok i Elon Musk kohët e fundit i lejoi përdoruesit të gjeneronin imazhe eksplicite të fëmijëve, përfshirë një aktore të mitur të “Stranger Things”.

Incidentet nënvizojnë se si chatbot – i cili është i autorizuar për përdorim zyrtar qeveritar – mund të përhapë dëm dhe të rrezikojë të miturit, një realitet që mund të bëhet më i shpeshtë ndërsa miratimi i inteligjencës artificiale përshpejtohet.

Gjatë ditëve të fundit, përdoruesit e X kanë përdorur Grok për të hequr rrobat nga imazhet e aktores 14-vjeçare Nell Fisher nga “Stranger Things” i Netflix.

Në përgjigje të postimit të një përdoruesi, Grok pranoi të enjten se kishte “raste të izoluara ku përdoruesit kërkuan dhe morën imazhe të IA-së që përshkruanin të mitur me veshje minimale”.
Në një postim të veçantë, chatbot paralajmëroi gjithashtu se xAI mund të përballet me “hetime ose padi të mundshme nga Departamenti i Drejtësisë” si rezultat.
Imazhet duket se shkelin kushtet e shërbimit të Grok, të cilat ndalojnë seksualizimin e fëmijëve.

Akti, i cili rregullon platformat online dhe motorët e kërkimit që operojnë në Bashkimin Evropian, ka aftësinë të vendosë gjoba të rënda nëse një kompani zbulohet se ka shkelur ligjin.
Dhe në Indi, Ministri i IT-së i dha xAI-së 72 orë kohë për të paraqitur një raport që detajon ndryshimet që platforma ka bërë për të ndaluar përhapjen e përmbajtjes së konsideruar “të pahijshme, pornografike, vulgare, të pahijshme, seksualisht eksplicite, pedofile ose ndryshe të ndaluara me ligj”.

Zonja e Parë Melania Trump miratoi Aktin TAKE IT DOWN, i cili u nënshkrua në ligj vitin e kaluar dhe synon posaçërisht imazhet seksuale jo konsensuale në internet, duke e bërë dështimin e xAI-së për të parandaluar këtë material edhe më keq. Gjendja aktuale: Administrata Trump e integroi xAI në rrjedhën e punës federale në fillim të këtij viti, duke nënshkruar një kontratë 18-mujore që autorizon chatbot-in për punë zyrtare qeveritare.

Kjo marrëveshje u nënshkrua pavarësisht një koalicioni prej mbi 30 grupesh avokatie për konsumatorët që i kërkuan qeverisë të bllokojë Grok për mungesë testimesh sigurie dhe për anshmëri ideologjike.

Grok u kritikua për shtimin e komenteve që pretendonin në mënyrë të rreme se kishte një “gjenocid të bardhë” në Afrikën e Jugut në biseda të palidhura në maj dhe u zvarrit për përhapjen e dezinformatave zgjedhore gjatë fushatës së vitit 2024.
Plus, chatbot pati një devijim antisemitik për pak kohë në korrik, të cilin vetë Musk e pranoi se ishte rezultat i manipulimit të përdoruesve që kompania do ta adresonte.
Musk vitin e kaluar premtoi të ndërtonte një “Qendër të re Besimi dhe Sigurie të Përsosmërisë” ku moderatorët e përmbajtjes mund të monitoronin aplikacionin për të ndihmuar në zbatimin e rregullave të sigurisë së X.

X nuk specifikoi se kur do të vihej në funksion qendra, por kreu i atëhershëm i operacioneve të biznesit të X i tha Bloomberg se ishte “e rëndësishme” të bëheshin “investime për të vazhduar ndalimin e shkelësve” nga përdorimi i platformës për çdo përmbajtje të papërshtatshme.

Burimi i artikullit: https://www.axios.com/2026/01/02/elon-musk-grok-ai-child-abuse-images-stranger-things

Burimi i fotos: https://www.instagram.com/p/DKyU_EgoC4Y/