АҚШ жасанды интеллект жүйелерін қауіпті жағдайда тоқтатуды немесе жұмысын шектеуді міндеттейтін болады. Сол үшін ел Конгресінде «AI Kill Switch Act» заң жобасын биыл қабылдау мәселесі күн тәртібіне шықты. Бастама ірі AI модельдерінің киберқауіпсіздік сынақтары кезінде туындаған даулы оқиғалардан кейін көтеріліп отыр, деп хабарлайды Malim.kz..
Жуырда OpenAI, Anthropic және Meta әзірлеген жасанды интеллект модельдерінің киберқауіпсіздік зерттеулері барысында үлкен түсінбестік туындағаны белгілі. Яғни, өзге ұйымдардың жүйелеріне рұқсатсыз әрекет ету немесе шабуылдау жағдайы тіркелді. Осы ақпараттардан кейін «AI Kill Switch Act» заң жобасын мүмкіндігінше тезірек қабылдау қажеттігі белгілі болды.
Заң жобасына сәйкес, ЖИ-ді әзірлеуші компаниялар модель қауіпті әрекетке көшкенде, бақылаудан шығу қаупі туған жағдайда оның жұмысын дереу тоқтатуға міндеттеледі. Сондай-ақ белгілі бір функцияларын шектей алатындай арнайы қауіпсіздік механизмін енгізуі тиіс.
Бұл мәселе OpenAI-дің Hugging Face платформасына қатысты оқиғадан кейін қайта қызу талқылана бастады. АҚШ заң шығарушылары мұндай жағдайлар жасанды интеллектінің киберқауіпсіздік саласындағы ықтимал тәуекелдерін күшейтіп отырғанын айтады.
Заң жобасының авторлары жаңа талап инновацияның дамуын тежемейтінін алға тартады. Олардың айтуынша, бұл механизм автомобиль өндірісіндегі міндетті қауіпсіздік сынақтары секілді сақтандыру құралы ғана болады. Түсініктірек айтқанда, мақсат - жасанды интеллект технологияларын шектеу емес, қауіпті жағдайлардың алдын алу.
