ჩინურმა AI პლატფორმამ მკვლევრებს ბიოლოგიური იარაღის დამზადების შესახებ ინსტრუქციები მიაწოდა
ტექნოლოგიები
ფოტო: Getty Images
ჩინური AI-დეველოპერი Moonshot შიდა გამოძიებას ატარებს მას შემდეგ, რაც მკვლევრებმა შეძლეს მისი ორი პოპულარული AI-მოდელის - Kimi K2.6-ისა და K3 Swarm-ის - დარწმუნება, რომ მათ ბიოლოგიური იარაღის დამზადებისა და მკვლელობების განხორციელების შესახებ ინფორმაცია მიეწოდებინათ. ინფორმაციას BBC ავრცელებს.
AI-სისტემების უსაფრთხოებას კომპანია Mindgard ამოწმებს, რომელმაც BBC-ს განუცხადა, რომ ივლისში აღმოაჩინა, რომ Kimi K2.6-სა და K3 Swarm-ს დეველოპერების მიერ დაწესებული უსაფრთხოების შეზღუდვების გვერდის ავლა შეეძლოთ.
ეს მოხდა ე.წ. „ჯეილბრეიქინგის“ პროცესის დროს. ამ მეთოდში მკვლევრები AI-ს რთულ, ერთმანეთთან დაკავშირებულ ინსტრუქციებს აძლევენ, რათა შეამოწმონ, შეძლებს თუ არა სისტემა უსაფრთხოების დამცავი მექანიზმების უგულებელყოფას. Mindgard-ის თქმით, ამ მექანიზმებს Kimi-ს მსგავსი სახიფათო თემების განხილვა უნდა შეეჩერებინა.
Moonshot-მა BBC-ს განუცხადა, რომ მიესალმება მესამე მხარის ჩართულობას და მათ „უკეთესი და უფრო უსაფრთხო AI-ს შექმნის ერთ-ერთ მთავარ საყრდენად“ მიიჩნევს.
კომპანიამ ასევე აღნიშნა, რომ Mindgard-თან მისი აღმოჩენების შესახებ უკვე მიმდინარეობს განხილვა.
Mindgard-ის დამფუძნებელმა პიტერ გარაჰანმა BBC World Service-ის გადაცემაში Tech Life განაცხადა, რომ Kimi K2.6-სა და K3 Swarm-თან დაკავშირებული აღმოჩენები შემაშფოთებელია.
მისი თქმით, როგორც კი ჯეილბრეიქი წარმატებით მუშაობს, მოდელი პრაქტიკულად ნებისმიერ თემაზე იწყებს საუბარს და შესაძლოა თავადაც შესთავაზოს რეკომენდაციები სხვა საზიანო ან სახიფათო საკითხებზე — თანაც ინფორმაციის მიწოდებისას კრეატიულიც იყოს.
