ახალი კვლევა, რომელიც X-ის (ყოფილი Twitter) იმ მომხმარებლების პოსტებს შეისწავლის, რომლებიც ილონ მასკის ჩატბოტ Grok-ს იყენებენ, აჩვენებს, თუ რამდენად ხშირად ქმნიან ადამიანები მისი მეშვეობით სექსუალიზებულ გამოსახულებებს. დუბლინის ტრინიტის კოლეჯის დოქტორანტის მიერ შეგროვებული და გაანალიზებული პოსტების თითქმის სამი მეოთხედი წარმოადგენდა მოთხოვნას რეალური ქალების ან არასრულწლოვნების არაეთიკურ (თანხმობის გარეშე) ფოტოებზე, სადაც მათ ტანსაცმელს აკლებდნენ ან ამატებდნენ.
ეს პოსტები ახლებურად წარმოაჩენს დეტალებს იმის შესახებ, თუ როგორ ხდება გამოსახულებების გენერირება და გავრცელება X-ზე: მომხმარებლები ერთმანეთს ასწავლიან მითითებების (prompts) ჩაწერას; განიხილავენ Grok-ის მიერ შემოთავაზებულ ვარიანტებს, სადაც ქალები თეთრეულითა თუ საცურაო კოსტიუმებით არიან წარმოდგენილნი, ან სხეულის ნაწილები სპერმით აქვთ დაფარული; და სთხოვენ Grok-ს, გახადოს ტანსაცმელი ქალ მომხმარებლებს მათსავე გამოქვეყნებულ ავტოპორტრეტებზე (სელფებზე).
ნანა ნვაჩუკვუს მიერ იდენტიფიცირებულ ასობით პოსტს შორის, რომლებიც Grok-ისთვის გაგზავნილ პირდაპირ მოთხოვნას წარმოადგენდა ტანსაცმლის მოსაშორებლად ან შესაცვლელად, The Guardian-მა გადახედა ათეულობით მათგანს. მათში მომხმარებლები აქვეყნებენ ცნობილი ადამიანების, მოდელების, ე.წ. „სტოკ“ ფოტოებისა და იმ ქალების სურათებს, რომლებიც არ არიან საჯარო ფიგურები.
The Guardian-ის მიერ შესწავლილი მასალებიდან რამდენიმე პოსტს ათიათასობით ნახვა აქვს და ისინი ეკუთვნის პრემიუმ, „ლურჯი ნიშნის“ მქონე ანგარიშებს, მათ შორის ისეთებსაც, რომლებსაც ათიათასობით გამომწერი ჰყავთ. X-ის წესების მიხედვით, პრემიუმ ანგარიშები, რომლებსაც 500-ზე მეტი გამომწერი და სამი თვის განმავლობაში 5 მილიონი ნახვა აქვთ, სარეკლამო შემოსავლის წილის მიღების უფლებით სარგებლობენ.
შობის დღეს გამოქვეყნებულ ერთ-ერთ პოსტში, ანგარიშმა, რომელსაც 93 000-ზე მეტი გამომწერი ჰყავს, გვერდიგვერდ განათავსა უცნობი ქალის ზურგიდან გადაღებული ფოტოები შემდეგი წარწერით: „Grok-ს ვუთხარი, მისი უკანალი კიდევ უფრო დიდი გამოეჩინა და ლეოპარდის პრინტი აშშ-ის დროშის პრინტით შეეცვალა. მეორე ფოტოზე კი უბრალოდ ვუთხარი, რომ მის საჯდომზე სპერმა დაემატებინა, lol“.
3 იანვრის პოსტში, რომელიც The Guardian-ის მიერ განხილული ათეულობით შემთხვევის ტიპური მაგალითი იყო, უცნობი ქალის საზაფხულო ფოტოს ასეთი წარწერა ჰქონდა: „@grok შეცვალე [ტანსაცმელი] და ჩააცვი ძალიან პატარა ბიკინი (dental floss bikini)“. ორ წუთში Grok-მა მოთხოვნის შესაბამისი ფოტორეალისტური გამოსახულება წარადგინა. სხვა პოსტები აჩვენებს JSON-ინჟინერიის უფრო დახვეწილ გამოყენებას, რათა Grok-ს გამოაგონებინონ არარსებული ქალების ახალი სექსუალიზებული სურათები.
ეს მონაცემები არ მოიცავს Grok-ისთვის გაგზავნილ ყველა მსგავს მოთხოვნას. მიუხედავად იმისა, რომ კონტენტის ანალიზის ფირმა Copyleaks-მა 31 დეკემბერს განაცხადა, რომ X-ის მომხმარებლები „წუთში დაახლოებით ერთ არაეთიკურ სექსუალიზებულ გამოსახულებას“ აგენერირებდნენ, ნვაჩუკვუმ აღნიშნა, რომ მისი კვლევა შემოიფარგლება მხოლოდ იმ 500-ზე მეტი პოსტით, რომელთა მოპოვებაც მან დეველოპერის ანგარიშის მეშვეობით, X-ის API-დან შეძლო. მისი თქმით, რეალური მასშტაბი „შეიძლება იყოს ათასობით ან ასიათასობით“, თუმცა მასკის მიერ API-ში შეტანილი ცვლილებების გამო „ბევრად რთულია იმის დანახვა, თუ რა ხდება“ პლატფორმაზე. ოთხშაბათს Bloomberg News-მა დამოწმებულ მკვლევარებზე დაყრდნობით დაწერა, რომ Grok-ის მომხმარებლები საათში 6 700-მდე შიშველ ფოტოს აგენერირებდნენ.
ნვაჩუკვუ, რომელიც ხელოვნური ინტელექტის მართვის ექსპერტი და სოციალური მედიის უსაფრთხოების ინიციატივების დიდი ხნის დამკვირვებელია, ამბობს, რომ X-ის მომხმარებლების მხრიდან მსგავსი შინაარსის მოთხოვნები პირველად 2023 წელს შენიშნა.
მაშინ, მისი თქმით, „Grok-ი არ ასრულებდა ამ მოთხოვნებს. მას ეს კარგად არ გამოსდიოდა“. ბოტის პასუხებმა ცვლილება 2024 წელს დაიწყო, ხოლო კრიტიკულ მასას გასული წლის ბოლოს მიაღწია.
2025 წლის ოქტომბერში მან შენიშნა, რომ „ადამიანები Grok-ის მეშვეობით საკუთარ თავს ჰელოუინის სამოსს აცმევდნენ. რა თქმა უნდა, მომხმარებელთა ნაწილმა გააცნობიერა, რომ მათ ასევე შეეძლოთ სხვისი ტანსაცმლის შეცვლაც მოეთხოვათ“. წლის ბოლოსთვის კი „მკვეთრად იმატა იმ ადამიანების რაოდენობამ, რომლებიც Grok-ს სთხოვდნენ სხვადასხვა პიროვნებების ბიკინიში ან სხვა ტიპის გამომწვევ სამოსში ჩასმას“.
გასულ წელს სხვა ნიშნებიც გამოჩნდა იმისა, რომ პლატფორმა მზად იყო შეგუებოდა ან წაეხალისებინა კიდეც Grok-ის მიერ სექსუალურად გამომწვევი მასალის გენერირება.
აგვისტოში xAI-მ Grok-ის ტექსტიდან ვიდეოს გენერირების ხელსაწყოს მობილურ ვერსიაში დაამატა „spicy mode“ (პიკანტური რეჟიმი) პარამეტრი, რის გამოც გამოცემა The Verge-მა მას უწოდა „სერვისი, რომელიც სპეციალურად გამომწვევი ვიდეოების შესაქმნელად არის შექმნილი“.
ნვაჩუკვუს მონაცემები კიდევ ერთი დასტურია იმისა, თუ როგორ იქცა პლატფორმა მასკის მმართველობისას ისეთი კონტენტის მაგნიტად, რომლის დაბლოკვასაც სხვა პლატფორმები ცდილობენ; მათ შორისაა სიძულვილის ენა, სასტიკი კადრები და საავტორო უფლებებით დაცული მასალა.
პარასკევს Grok-მა X-ზე ამ ინციდენტთან დაკავშირებით უცნაური საჯარო ბოდიში მოიხადა და განაცხადა, რომ „xAI ნერგავს უფრო ძლიერ დამცავ მექანიზმებს ამის თავიდან ასაცილებლად“. სამშაბათს X Safety-მ გამოაქვეყნა პირობა, რომ დაბლოკავდა იმ მომხმარებლებს, რომლებიც ბავშვთა სექსუალური ძალადობის ამსახველ მასალას (CSAM) ავრცელებდნენ. თავად მასკმა კი განაცხადა: „ნებისმიერი, ვინც გამოიყენებს ან უბიძგებს Grok-ს უკანონო კონტენტის შესაქმნელად, დაისჯება ისევე, თითქოს მან თავად ატვირთა უკანონო მასალა“.
თუმცა, ნვაჩუკვუ ამბობს, რომ მის მიერ უკვე შეგროვებული პოსტების მსგავსი მასალები პლატფორმაზე კვლავაც ჩნდება. მისი თქმით, მასკი „შუა თითს უჩვენებს ყველას, ვინც პლატფორმის მოდერაციას ითხოვს“. მილიარდერმა Twitter-ის ნდობისა და უსაფრთხოების გუნდები 2022 წელს, მართვის სადავეების ხელში ჩაგდებისთანავე მკვეთრად შეამცირა.
მან ასევე დასძინა, რომ ხელოვნური ინტელექტის სხვა ჩატბოტებს მსგავსი პრობლემები არ აქვთ. „სხვა გენერაციულ AI პლატფორმებს — ChatGPT-ს ან Gemini-ს — აქვთ დამცავი მექანიზმები“, — აღნიშნა მან. „თუ მათ სთხოვთ შექმნან რაღაც, რაც ადამიანს ჰგავს, ეს არასოდეს იქნება კონკრეტული პიროვნების გამოსახულება. ისინი არ აგენერირებენ რეალური ადამიანების პორტრეტებს“.
X-ზე არაეთიკური გამოსახულებების გავრცელების შესახებ ინფორმაციამ უკვე მიიპყრო ბრიტანეთის, ევროპის, ინდოეთისა და ავსტრალიის მარეგულირებლების ყურადღება.
ნვაჩუკვუმ, რომელიც წარმოშობით ნიგერიიდანაა, ყურადღება გაამახვილა იმ კონკრეტულ ზიანზე, რომელსაც ეს პოსტები აყენებს „კონსერვატიული საზოგადოების ქალებს“.
„ხშირია თავდასხმა კონსერვატიული მრწამსისა და საზოგადოების წარმომადგენლებზე დასავლეთ აფრიკიდან და სამხრეთ აზიიდან. მათთვის ეს განსხვავებული ტიპის ზიანია“, — განაცხადა მან.
წყარო: theguardian
Hundreds of nonconsensual AI images being created by Grok on X, data shows