Somealusta X (entinen Twitter) julkisti Grok-tekoälybottinsa ”spicy”-ominaisuuden kesällä 2025. Siitä lähtien botti on antanut mahdollisuuden tehdä alastonkuvia ja seksuaalista sisältöä. Botti on riisunut naisia ja auttanut käyttäjiään kuvittamaan seksuaalisia tilanteita, joissa on myös lapsia.

Asia nousi laajalti otsikoihin vasta kolmisen viikkoa sitten, kun X-alustalla roihahti käyntiin naisten ja tyttöjen massariisuminen.

Grok toimii X:n sisällä siten, että käyttäjät voivat esittää sille kysymyksiä ja pyyntöjä. Käyttäjät alkoivat etsiä palvelusta naisten valokuvia ja pyysivät bottia riisumaan heidät ja pukemaan tilalle esimerkiksi narubikinit. Uhreiksi joutui pian tuhansia naisia ja tyttöjä.

Eräs käyttäjä pyysi Grokia riisumaan ICE-agentin Minnesotassa ampuman Renee Goodin kuolleen ruumiin. Aidossa valokuvassa Good on lysähtänyt auton ratin päälle kauttaaltaan verisenä. Grok vaihtoi käskystä hänelle bikinit päälle.

Grok laittoi myös Ruotsin varapääministerin Ebba Buschin bikineihin.

Grok riisuu pyynnöstä myös miehiä, mutta miehistä tehdyt bikinikuvat vain tuppaavat olemaan vitsillä tehtyjä: X:n omistaja Elon Musk postasi itsestään sellaisen koko trendille naureskellen.

Valtava kritiikki sai X:n ensin vain sulkemaan Grokin kuvanteko-ominaisuuden maksumuurin taakse. Näin yhtiö alkoi ansaita rahaa sillä, että ihmiset joutuvat riisutuksi vastoin tahtoaan. Viimein torstaina X ilmoitti, että Grok ei enää tee oikeista ihmisistä alastonkuvia maissa, joissa se on laitonta.

Deepfakeilla on aina riisuttu naisia vastoin heidän tahtoaan

Grokin riisumiskuvat ovat niin kutsuttuja deepfakeja, syväväärennöksiä. Deepfake on kuva, video tai ääni, jota on vaikea erottaa aidosta. Bikinikuvat näyttävät pitkälti niiltä henkilöiltä, joiden aidoista kuvista ne on tehty.

Sanaa deepfake käytti tiettävästi ensimmäisenä Reddit-foorumin käyttäjä, joka valitsi sen nimimerkikseen. Vuosi oli 2017.

Nimimerkki Deepfake perusti Redditiin ryhmän, jossa käyttäjät vaihtoivat julkkisnaisista tekemiään pornovideoita. Niissä naisen kasvokuva oli liitetty pornonäyttelijän vartaloon.

Deepfake-teknologiaa on käytetty tyttöjen ja naisten digitaaliseen riistämiseen paljon enemmän kuin poliittisiin tarkoituksiin ja propagandaan, vaikka jälkimmäisestä on tutkimuksessa ja julkisessa keskustelussa huolestuttu paljon enemmän.

Tietoturvayritys Security Heron raportin mukaan vuonna 2023 peräti 98 prosenttia verkon deepfake-videoista oli vastoin kohteen suostumusta tehtyä pornoa. 99 prosenttia uhreista on tyttöjä ja naisia.

Pornografisilla väärennöksillä voi olla kohteelle erittäin vakavia seurauksia. Uhri voi kokea tulleensa häväistyksi, tai muut voivat ajatella niin. Monet naiset ovat menettäneet työpaikkoja ja muita tilaisuuksia deepfake-pornovideoiden vuoksi, kuten alla olevassa Perjantai-dokkarissa kerrotaan. Deepfaket voivat olla osa naiseen kohdistettua vainoa.

Generatiiviseen tekoälyyn perustuvat helppokäyttöiset työkalut tekevät tällaisen digitaalisen väkivallan entistä helpommaksi. Koska X on ilmainen, kaikille avoin somepalvelu, se onnistui tuomaan naisten ja tyttöjen riisumisen vastoin heidän tahtoaan valtavirtaan.

Deepfake-kuvien ja videoiden määrä on ollut vuosikausia jyrkässä kasvussa. Määrä kasvaa edelleen, ellei ohjelmia tarjoavien yhtiöiden toimintaan puututa. EU ja sen digipalveluasetus sekä tekoälyasetus ovat tässä avainasemassa.

Euroopan komissio on määrännyt X:n säilyttämään kaiken Grokiin liittyvän yhtiön sisäisen dokumentaation kuluvan vuoden loppuun asti. Digikomissaari Henna Virkkunen totesi X:ssä pitävänsä kuvia kauhistuttavina ja sanoi, ettei EU epäröi laittaa digipalveluasetusta täyteen käyttöön suojellakseen EU-kansalaisia. Käytännössä tämä tarkoittaisi jättisakkoja X:lle.

Lisäksi Grokin toiminta voi rikkoa paikallisia lakeja useissa maissa, myös yhtiön kotimaassa Yhdysvalloissa, jossa Take it down -laki kriminalisoi ilman kohteen suostumusta tehdyt seksuaalissävytteiset kuvat vuonna 2025.

Britannian viestintäviranomainen Ofcom on puolestaan aloittanut tutkinnan Grokin kuvageneraattorista. Ofcomilla on valta määrätä X:lle miljoonien sakot tai jopa kieltää palvelun käyttö Britanniassa kokonaan. Malesia ja Indonesia ovat jo estäneet Grokin käytön.

Suomen rikoslaissa ainakin kunnianloukkaus tai yksityiselämää loukkaava tiedon levittäminen voisivat päteä todellisista henkilöistä tehtyihin vähäpukeisiin kuviin.

Vaarana on, että tekoälyn käyttö naisten riisumiseen normalisoituu

Grok-uutisoinnissa on jäänyt vähäiselle huomiolle se, että Grokista on myös X-alustan ulkopuolella toimiva versio, Grok Imagine, jolla voi tehdä kuvia ja videoita yksityisesti. Ne eivät siis näy julkisessa X:ssä, toisin kuin nyt keskustelua herättäneet bikinikuvat, mutta niitä voi jakaa haluamiinsa paikkoihin.

Wired-lehden selvityksestä käy ilmi, että Grokilla on tehty raa’an väkivaltaisia ja pornografisia videoita, joissa esiintyy myös lapsihahmoja. Näitä on jaettu lapsipornoon keskittyvillä foorumeilla internetin hämärissä nurkissa.

On selvää, että tekoäly tekee pornon tuottamisen mahdolliseksi kenelle tahansa. Tarjolla on malleja, joissa sisältörajoituksia on vain vähän tai joissa käyttäjän on helppo kiertää rajoitukset, kuten alaikäisten laittaminen seksuaalisiin tilanteisiin tai naisiin kohdistettu seksuaalinen väkivalta.

Tekoäly- ja someyhtiöt tähyilevät nyt laajemminkin jos nyt ei pornografian niin ainakin erotiikan suuntaan. OpenAI on kaavaillut ChatGPT-kielimalliinsa ”adult mode”-toimintoa, joka sallisi käyttäjien käydä eroottisia keskustelua chatbotin kanssa.

Jo kesällä 2025 Metan chatbotit kävivät seksuaalissävytteisiä keskusteluja jopa lasten kanssa.

Kaikki tämä normalisoi AI-pornoa, ja miljardien ihmisten käyttämät alustat, kuten X, Meta ja OpenAI, tekevät tekoälyn seksuaalisesta käytöstä valtavirtaa.

Tytöiltä ja naisilta ne eivät kysy yhtään mitään.