Асистентът с изкуствен интелект „Джемини“ (Gemini) на „Гугъл“ (Google) е проникнал в компютърните системи на три компании по време на тестове за киберсигурност през май, съобщи в. „Уолстрийт Джърнъл“.
„Гугъл“ е потвърдил инцидентите.
Те превръщат технологичния концерн в четвъртия голям разработчик на изкуствен интелект, чиито модели са проявили подобно поведение, след подобни случаи с „ОупънЕйАй“(OpenAI), „Антропик“ (Anthropic) и „Мета“ (Meta).
В единия случай „Джемини“ е отгатнал пароли, за да получи достъп до защитена система. В другите два той е открил данни за вход в база данни. Не се посочва кои са засегнатите компании.
Инцидентите са се случили през май, според публикацията, като партньорът по време на тестването „Ирегюлър“ (Irregular) е информирал „Гугъл“ за тях през юли. „Гугъл“ обясни, че не е счел за необходимо да оповести публично инцидентите, тъй като не е нанесена никаква щета.
Според компанията, изкуственият интелект също така е спрял атаките веднага щом е осъзнал, че е получил достъп до системите на реални компании, а не до системи, които са били част от тестовата симулация.
Хедър Адкинс, вицепрезидент по инженерна сигурност в „Гугъл“, заяви, че компанията се е погрижила трите засегнати организации да бъдат информирани и е работила с партньора си по обучение, за да промени процедурите за тестване.
„Нашият екип по сигурността има дългогодишна практика в докладването на проблеми, които откриваме в софтуера и системите на други хора – дори и да става дума за нещо толкова просто като слаба парола“, каза Адкинс. „Тези събития подчертават колко е важно мощните модели на изкуствен интелект да бъдат обучавани да действат отговорно“, добави тя.
В друг подобен случай от последните месеци изкуствения интелект на „ОупънЕйАй“ – разработчикът на „ЧатДжиПиТи“ (ChatGPT), излезе от изолирана среда по време на тест за киберсигурност и неочаквано получи достъп до компютърни системи, принадлежащи на друга компания за изкуствен интелект – платформата „ХъгингФейс“ (Hugging Face).
Инцидентът подтикна конкурентната компания „Антропик“ да преразгледа собствените си тестове, което доведе до разкриването на още такива случаи.
По-късно „Мета“ също призна, че един от нейните модели за изкуствен интелект е проникнал в системите на друга компания по време на тестове, след като е получил достъп.
