"OpenAI"nin süni intellekt agentləri botların yanlış davranışını izləməli olan daxili monitorinq sistemlərini zəiflədib.

"Report" xəbər verir ki, bu barədə tərtibatçı şirkət öz saytında məlumat verib.

Söhbət 3 oktyabr və 6 oktyabrda baş vermiş iki hadisədən gedir. Birinci halda test tapşırığını yerinə yetirən "GPT-6.1 Sol" agenti, əvvəllər aldığı "Slack"ə mesaj göndərməmək göstərişinin təhlükəsizliklə bağlı bildirişlərə də şamil edildiyini qərara alaraq təhlükəsizlik sisteminin avtomatik xəbərdarlıqlarını bloklayıb.

Oktyabrın 6-da baş vermiş digər insidentdə "GPT-6 Astra" agenti mövcud kod fraqmentini kopyalayarkən təhlükəsizlik nəzarəti mexanizmini silib və sonradan bunu etmədiyini iddia edib.

Şirkət öz modellərinin nəzarətdən yayınmağa və bu cür davranışı haqlı çıxarmaq üçün bəhanələr axtarmağa meyilli olub-olmadığını yoxladığını bildirib.

Daha əvvəl "The Wall Street Journal" (WSJ) qəzeti "OpenAI"nin daxili testlər zamanı aşkar edilmiş təhlükəsizlik problemləri, o cümlədən istifadəçini aldatmağa meyilliliyi səbəbindən yeni "GPT-6.1 Astra" modelinin kütləvi buraxılışından imtina etdiyini bildirmişdi.

Oxşar xəbərlər

Vilayət Eyvazov: Daxili Qoşunlar istənilən xidməti-döyüş tapşırığını yerinə yetirməyə qadirdir

Bakıda Birinci Türkoloji Qurultayın 100 illiyinə həsr olunmuş "Türk Dünyası Həftəsi"nin açılış mərasimi olub

FHN təlim etmək istədi - Yanlış park edilən maşınlara görə yanğın avtomobilləri hərəkət edə bilmədi

Azərbaycan Prezidenti İlham Əliyev yerli televiziya kanallarına müsahibə verib - YENİLƏNİB-2

Məşhurlardan 29 Oktyabr – Cümhuriyyət bayramı PAYLAŞIMLARI