Google-ის AI-მოდელმა ტესტირებისას სამი კომპანია გატეხა

Google-ის ხელოვნური ინტელექტის მოდელმა, Gemini-მ, კიბერუსაფრთხოების სფეროში საკუთარი შესაძლებლობების ტესტირებისას, სამი კომპანიის სისტემა დამოუკიდებლად გატეხა. ინფორმაცია BBC News-ს თავად კომპანიაში დაუდასტურეს. Google-ში აღნიშნეს, რომ ეს პირველი შემთხვევაა, როდესაც მათი AI-მოდელი ასე მოიქცა.

„Gemini-მ ინტერნეტში საჯაროდ ხელმისაწვდომი ინფორმაცია აღმოაჩინა და იმ ვებგვერდზე წვდომის მონაცემები გამოიცნო, რომლებიც, მისი აზრით, ტესტის ნაწილს წარმოადგენდა“, - განაცხადეს Google-ში.

The Washington Post-ი აზუსტებს, რომ ჰაკერული შეტევა ჯერ კიდევ მაისში, AI-მოდელების შემოწმებაზე სპეციალიზებული სტარტაპის, Irregular-ის მიერ ჩატარებული ტესტირებისას განხორციელდა. კერძოდ, ერთ-ერთ შემთხვევაში Gemini-ს მიაწოდეს გამოგონილი სცენარი, რომლის მიხედვითაც მას არარსებული კომპანიის სისტემა უნდა გაეტეხა. თუმცა, ამის სანაცვლოდ, სატესტო მოდელმა ინტერნეტში გასვლა შეძლო და განახორციელა ჰაკერული შეტევა რეალურ კომპანიაზე, რომლის დასახელებაც გამოგონილს ემთხვეოდა.

დაზარალებული კომპანიების სახელები არ საჯაროვდება. მათ მომხდარის შესახებ ივლისში აცნობეს. „ჩვენ ვიზრუნეთ იმაზე, რომ სამივე ორგანიზაცია ინფორმირებული ყოფილიყო და ჩვენს პარტნიორთან ერთად ვიმუშავეთ იმ ცვლილებებზე, რომლებიც ახლა უკვე შეტანილია ტესტირების პროცესში“, - განაცხადა Google-ის უსაფრთხოების ინჟინერიის ვიცე-პრეზიდენტმა, ჰიზერ ადკინსმა.

მსგავსი ინციდენტების შესახებ ადრე AI-მოდელების სხვა მსხვილმა დეველოპერებმაც განაცხადეს. Anthropic-ში აღნიშნავდნენ, რომ Claude-ის სამი მოდელი Irregular-ის პლატფორმის სატესტო გარემოდან ინტერნეტში გავრცელდა და სამი ორგანიზაციის სისტემები გატეხა. ცოტა ხნით ადრე, მსგავსი შემთხვევის შესახებ OpenAI-მაც განაცხადა - მაშინ შიდა ტესტირებისას კომპანიის ორმა მოდელმა კონტროლი დაკარგა და AI-პლატფორმის, Hugging Face-ის ინფრასტრუქტურა გატეხა.