ChatGPT әзірлеушісі OpenAI компаниясы өзінің жаңа жасанды интеллект моделін сынақтан өткізу кезінде бұрын-соңды болмаған оқиға тіркелгенін мәлімдеді. Компанияның мәліметінше, жүйе тестілеу барысында басқа технологиялық платформа – Hugging Face-тің ішкі желісіне рұқсатсыз қол жеткізген, деп хабарлайды Malim.kz BBC-ге сілтеме жасап.
OpenAI өкілдерінің айтуынша, оқиға компанияның ішкі қауіпсіздік сынақтары кезінде анықталған. Қазір оның қалай орын алғаны жан-жақты зерттеліп жатыр. Тергеуге Hugging Face мамандары да тартылған.
Hugging Face бас директоры Клеман Делангтың айтуынша, жүйенің әрекеті адамның араласуынсыз, толық автономды режимде жүзеге асқан.
«Тергеу әлі аяқталған жоқ. Егер алдын ала мәліметтер расталса, бұл жасанды интеллект агентінің осындай сипаттағы алғашқы оқиғаларының бірі болуы мүмкін. Зерттеу аяқталғаннан кейін негізгі қорытындыларды жариялаймыз», – деді ол X әлеуметтік желісінде.
16 шілдеде Hugging Face ресми мәлімдеме жасап, оқиға салдарынан пайдаланушылар мен серіктестердің деректеріне зиян келген-келмегенін тексеріп жатқанын хабарлады. Сонымен бірге анықталған қауіпсіздік осалдықтары жойылып, жүйенің қорғанысы күшейтілгенін мәлімдеді.
Компания өкілдерінің пікірінше, жасанды интеллекттің өздігінен кибершабуыл жасау мүмкіндігі енді теория емес, нақты қауіп ретінде қарастырылуы тиіс. Сондықтан мұндай қатерлердің алдын алуда да ЖИ құралдарын пайдалану маңызды екені айтылды.
Оқиға Ұлыбритания билігінің де назарын аударды. Елдің Жасанды интеллект қауіпсіздігі институты OpenAI және басқа зертханалармен бірлесіп, жағдайдың мән-жайын зерттеп, болашақта осындай қауіптердің алдын алу бағытында жұмыс жүргізіп жатқанын хабарлады.
Кембридж университетінің сарапшысы Джина Неффтің айтуынша, жасанды интеллект модельдері әдетте сыртқы желіден оқшауланған арнайы ортада сыналады. Оның пікірінше, бұл жағдайда қауіпсіздік жүйесіндегі ақау салдарынан агент тестілеу шекарасынан шығып, сыртқы платформаға қол жеткізуі мүмкін болған.
Ал Кембридж университетінің профессоры Нил Лоренс бұл оқиға қазіргі ЖИ модельдерінің мүмкіндігі едәуір артқанын көрсететінін айтты. Сонымен қатар ол OpenAI үшін бұл жағдай қауіпсіздік мәселелерінің әлі де өзекті екенін аңғартатынын жеткізді.
ESET компаниясының киберқауіпсіздік жөніндегі кеңесшісі Джейк Мур оқиғаның жариялануы компанияның технологиялық әлеуетін көрсетуге де бағытталған болуы мүмкін деген пікір білдірді. Оның айтуынша, OpenAI жасанды интеллект саласындағы басты бәсекелестерінің бірі Anthropic-пен тең дәрежеде екенін дәлелдеуге ұмтылып отыр.
SonicWall компаниясының өкілі Спенсер Старки ұйымдар ақпараттық қауіпсіздікке бұрынғыдан да көбірек көңіл бөлуі қажет екенін айтты.
«Көптеген ұйымдар әлі күнге дейін адамның әрекетіне сүйеніп қорғанады. Ал шабуыл жасаушылар машиналардың жылдамдығымен жұмыс істейді», – деді ол.
Guidepoint Security сарапшысы Трэвис Леллдің пікірінше, бұл жағдай жасанды интеллект негізіндегі шабуылдардың болашақтағы қауіп деңгейі жоғары екенін тағы бір мәрте көрсетті. Оның айтуынша, қазіргі ең озық қорғаныс жүйелерінің өзі барлық ықтимал қауіп-қатерді алдын ала болжай алмайды.
Айта кетейік, OpenAI мен Hugging Face оқиғаның нақты себептері мен салдарын анықтау үшін бірлескен тергеуді жалғастырып жатыр.
