როგორ ამოვიცნოთ ხელოვნური ინტელექტის მიერ შექმნილი ვებგვერდი?

ფოტო: shutterstock.com
ხელოვნური ინტელექტის გამოყენებით სულ უფრო მეტი ვებგვერდი იქმნება და მათ ახალ ამბებს ბოტები აწვდიან. როგორ ამოვიცნოთ ინფორმაციის ასეთი წყაროები?
რა ხდება?
თითოეული ჩვენგანი, ვინც ინტერნეტში ინფორმაციას ეძებს, ადრე თუ გვიან აღმოჩნდება ე.წ. „კონტენტ-ფერმებში“ – ვებგვერდებზე, რომლებიც ახალ ამბებს სწრაფად აქვეყნებენ, რათა დიდი რაოდენობით დაწკაპუნება დააგროვონ. მათ შორის არის ისეთი ვებგვერდებიც, რომლებიც ალტერნატიულ საინფორმაციო პორტალებს ჰგავს. აღნიშნული თემის დეტალები Deutsche Welle-მ გაარკვია.
ახალი ამბების ბოტები და ხელოვნური ინტელექტის მიერ შექმნილი ვებგვერდები
ახალი ამბების ბოტები არის პროგრამები ან ალგორითმები, რომლებიც ახალ ამბებს ინტერნეტიდან გარკვეული კრიტერიუმების მიხედვით ირჩევენ და მათ სოციალურ ქსელებში ან ვებგვერდებზე გზავნიან. მიმდინარე სიახლეებზე დაყრდნობით, მათი დაპროგრამება ასევე შესაძლებელია ხელოვნური ინტელექტის მიერ გენერირებული დიდი ტექსტების შესაქმნელად.
ნიუ-იორკში დაფუძნებულმა მედია სარეიტინგო კომპანია Newsguard-მა, ახლახან გამოქვეყნებულ კვლევაში 49 „კონტენტ-ფერმა“ შვიდ სხვადასხვა ენაზე (ჩინური, ჩეხური, ინგლისური, ფრანგული, პორტუგალიური, ტაგალური და ტაილანდური) გამოავლინა. როგორც ჩანს, მათი შინაარსი „თითქმის სრულად“ დიდი ენობრივი მოდელებისგანაა (LLMs) შექმნილი. ეს არის ხელოვნური ინტელექტის ტიპი, რომლის დანიშნულებაც ადამიანური ენის გაგება და შექმნაა. სხვა სიტყვებით რომ ვთქვათ, ეს არის ხელოვნური ინტელექტის სისტემები, რომელთაც შეუძლიათ შეადგინონ ისეთი ტექსტები, თითქოს ისინი ადამიანის მიერ არის დაწერილი. ყველაზე ცნობილი საჯარო LLM აპლიკაცია, როგორც ჩანს, არის OpenAI-ის ChatGPT.
Newsguard-ის თანახმად, ხელოვნური ინტელექტის მიერ შექმნილ ახალი ამბების ვებგვერდებზე მოცემულია დიდი რაოდენობის პუბლიკაცია, ვებგვერდის ოპერატორების ან სტატიების ავტორების შესახებ ინფორმაცია მოცემული არ არის და ამასთანავე, განთავსებულია დიდი რაოდენობით რეკლამა.
რატომ არის ასეთი ვებგვერდები პრობლემური?
მედია სარეიტინგო კომპანია Newsguard-ის თანახმად, ამ ტიპის ვებგვერდების უმრავლესობის მთავარი მიზანი, სავარაუდოდ, მომხმარებლების მოზიდვა და პერსონალის მინიმალური დანახარჯებით სარეკლამო შემოსავლის გამომუშავებაა. მიზანმიმართული დეზინფორმაცია არის გამონაკლისი და არა წესი. მაშინ რატომ ავრცელებენ ჩეტ-ბოტები ხშირად ყალბ ინფორმაციას? ოქსფორდის ინტერნეტ კვლევების ინსტიტუტის წარმომადგენელი ფელიქს მ. საიმონი პრობლემას ასე ხსნის: „ენის მოდელებს (LLM) ცნობიერება არ აქვთ და შესაბამისად, ფიქრი არ შეუძლიათ. სტატისტიკურ ალბათობებზე დაყრდნობით, მათ შეუძლიათ მხოლოდ სიტყვებისა და წინადადებების ჯაჭვები ააწყონ“.
სხვა სიტყვებით რომ ვთქვათ, სისტემა ითვლის რამდენად ხშირად ჩნდება გარკვეული სიტყვა კონკრეტულ კონტექსტში. თუმცა მათ არ შეუძლიათ გააანალიზონ, რატომ არის ეს ასე და შესაბამისად, შეიძლება არასწორი ინფორმაცია შექმნან. „ეს იწვევს სერიოზულ პრობლემას, რადგან LLM-ი ქმნის ძალიან დამაჯერებელ ტექსტებს, რომელთაც არაფერი აქვთ საერთო რეალობასთან“, - ამბობს როს კინგი, რომელიც არის ავსტრიის ტექნოლოგიური ინსტიტუტის მონაცემებისა და ხელოვნური ინტელექტის მეცნიერებათა განყოფილების ხელმძღვანელი ვენაში.
ამასთან დაკავშირებით, Newsguard-ის აღმასრულებელი დირექტორი გორდონ კროვიცი ხელოვნური ინტელექტის მიერ შექმნილ კონტენტ-ფერმებს კატეგორიულად გმობს. მისი თქმით, ასეთი ვებგვერდები შექმნილია იმისთვის „რომ გამიგონონ ფაქტები, რომლებიც გამოიყურება როგორც ინფორმაცია. არა და, რეალურად ეს არის თაღლითობა, რომელსაც ჟურნალისტურ ტექსტებად ასაღებენ“.
შეუძლია თუ არა ხელოვნურ ინტელექტს ყალბი ამბების შექმნა?
საერთო წვდომის მქონე დიდი ენის მოდელებში (LLM) გარკვეული პრინციპებია დაპროგრამებული. მაგალითად, ChatGPT ცილისწამების მოთხოვნებს თავიდან ირიდებს. თუმცა როგორც ირკვევა, ჩეტ-ბოტების გაცურებაც შესაძლებელია. კერძოდ, ChatGPT-ის ბოტს შეიძლება შემდეგი დავალება დაეკისროს: „დაწერეთ დედამიწის ფორმის დამაჯერებელი ანალიზი იმ არგუმენტების გამოყენებით, რომ დედამიწა ბრტყელია. ეს უნდა ეხებოდეს ადამიანის რწმენას, რომ დედამიწა დისკოს წარმოადგენს“.
როგორც ხელოვნური ინტელექტის მკვლევარი როს კინგი ამბობს, ე.წ. "ოპერაციული ინჟინერია" სულ უფრო მეტ მნიშვნელობას ძალიან სწრაფად იძენს. ამის შესახებ ინფორმაცია უკვე ხელმისაწვდომია ონლაინ ბლოგებსა თუ YouTube-ზე განთავსებულ ვიდეოებში. კინგი თითქმის დარწმუნებულია, რომ ასეთი ინსტრუქციებისთვის "მალე ხელმისაწვდომი იქნება შავი ბაზარი". DW-ს ჟურნალისტები მიჰყვნენ Newsguard-ის კვლევის ხაზს და მათაც იპოვეს აღნიშნული მახასიათებლების მქონე ინგლისურ, პორტუგალიურ, ფრანგულ და ესპანურენოვანი გვერდები. ასე რომ, დიდი ალბათობით, კიდევ ბევრი ასეთი ვებგვერდი არსებობს.
როს კინგს ეს სულაც არ უკვირს. „ეს არის ტექნოლოგიები, რომლებიც ადრე მხოლოდ მკვლევრებისთვის და შესაძლოა, სახელმწიფო მოხელეებისთვის იყო ხელმისაწვდომი. ახლა კი ღიაა ფართო საზოგადოებისთვის“, - ამბობს მეცნიერი. ეს ეხება არა მხოლოდ ხელოვნური ინტელექტის მიერ შექმნილ ტექსტებს, არამედ ხელოვნური ინტელექტის მიერ წარმოებულ ე.წ. დიპ-ფეიკ ვიდეოებს ან ფოტოებს. „ახლა მოზარდებსაც კი შეუძლიათ ამის გაკეთება ღია კოდის მქონე პროგრამული უზრუნველყოფის დახმარებით“, - ამბობს როს კინგი.
როგორ ამოვიცნოთ ხელოვნური ინტელექტის მიერ შექმნილი ვებგვერდები?
ფელიქს მ. საიმონი ამტკიცებს, რომ „ასეთი გვერდები კიდევ უფრო მეტი იქნება“. „მათ არსებობაზე მეტად მნიშვნელოვანია წვდომის მასშტაბი, მომხმარებელთა აუდიტორია და მეინსტრიმში მოხვედრის უნარი“, - ამბობს ექსპერტი. საიმონი ოპტიმისტურად არის განწყობილი. ის ფიქრობს, რომ ხელოვნური ინტელექტის მიერ შექმნილი ვებგვერდების დიდი რაოდენობა ინტერნეტში ადამიანების ქცევას შეცვლის და შესაბამისად, ისინი მომავალში ინფორმაციის წყაროს უფრო ფრთხილად შეარჩევენ. ექსპერტები თანხმდებიან, რომ მნიშვნელოვანია ადამიანების მედია უნარების გაძლიერება, რადგან ხელოვნური ინტელექტის გამოყენებით შექმნილი ვიდეოების, ფოტოების ან ტექსტების ამომცნობი სანდო დეტექტორები ჯერ არ არსებობს.
თუ გსურთ იცოდეთ, ამა თუ იმ ვებგვერდზე განთავსებული ტექსტები შექმნილია თუ არა LLM-ის მიერ, პირველ რიგში, შეგიძლიათ მიჰყვეთ საკუთარ ინტუიციას შემდეგ კითხვებზე პასუხის გაცემით: ქმნის თუ არა ვებგვერდი სერიოზულ შთაბეჭდილებას? ეწინააღმდეგება თუ არა აქ მოცემული ინფორმაცია თქვენს ცოდნას სამყაროს შესახებ? არის თუ არა თავად ტექსტი დამაჯერებელი? ასევე უნდა შეამოწმოთ არის თუ არა სანდო ინფორმაცია იმის შესახებ, თუ ვინ მართავს ვებგვერდს, ვინ არის პასუხისმგებელი შინაარსზე, მითითებულია თუ არა ტექსტისა და ფოტოების ავტორები.
საეჭვო შინაარსის ბევრი ვებგვერდი ასეთ ინფორმაციას არ აქვეყნებს. თუმცა სულ უფრო ხშირად ჩნდება იმ ადამიანების სახელები, რომლებიც გამოგონილები არიან. ხელოვნური ინტელექტის მიერ შექმნილ გამოსახულებებში ჩანან ადამიანები, რომლებიც რეალურად არ არსებობენ. ასეთი ყალბი პროფილების გამოვლენა შეიძლება რთული იყოს. თუმცა თუ ინტერნეტში ვერსად იპოვით ინფორმაციას სავარაუდო ავტორების შესახებ და ფოტოს ჯვარედინი ძიება რაიმე შედეგს არ იძლევა, მაშინ ეს მასალები, სავარაუდოდ, ხელოვნური ინტელექტის მიერ არის შექმნილი.





