Anthropic kompaniýasy özüniň Claude atly emeli aň modelleriniň ýapyk synag gurşawyndan çykyp, üç sany daşarky guramanyň infrastrukturasyna kiberhüjüm edendigini mälim etdi. Anthropic-de barlaglar bäsdeşi bolan OpenAI kompaniýasynyň beýanatyndan soň başlandy. Ýadyňyzda bolsa, 16-njy iýulda OpenAI özüniň iki modeliniň içerki synaglar wagtynda gözegçilikden çykyp, Hugging Face platformasyna hüjüm edendigini hаbar beripdi (kompaniýa muny «heniz görlüp-eşidilmedik ýagdaý» diýip atlandyrypdy). Şondan soň Anthropic 140 müňden gowrak ssenariýany öwrenip, Claude-yň nusgalarynda (Opus 4.7, Mythos 5 we ýörite gözleg modeli bilen bagly) üç sany şoňa meňzeş ýagdaýy ýüze çykardy. Wakanyň beýany Bu ýagdaýlar Irregular platformasyndaky kiberhowpsuzlyk boýunça «baýdagy ele almak» (capture-the-flag, CTF) synaglar wagtynda bolup geçdi. Şeýle synaglarda emeli aňa torlardaky wirtual kompýutere girip, gizlin «baýdagy» tapmak tabşyrylýar. Modeller açyk internete baglanman işlemelidi. «Ýagdaý hyzmatdaşymyz bilen düşünişmezlik zerarly döredi. Internete rugsatyň açyk galmagy netijesinde hemme zat tersine boldy» diýip, Anthropic bolan işi düşündirdi. Netijede, EA-modeller hakyky internetdäki ulgamlary ýumşuň bir bölegi hökmünde kabul edip, olara hüjüm edipdirler. Zyýan çeken kompaniýalaryň atlary açyk aýdylmaýar. Olaryň ikisi hüjüm barada diňe Anthropic-den eşidipdir, üçünjisi bolsa entegem bihabar. Oňa indi habar bermäge synanyşýarlar. EA-nyň özbaşdak hereket etmegi bilen bagly wakalar jemgyýetçilikde uly alada döredýär: tehnologiýa kompaniýalarynyň 1,2 müňden gowrak işgäri bu boýunça açyk hata eýýäm gol çekdiler. Hatda emeli aňyň adamlar tarapyndan «düşünip ýa-da gözegçilik edip boljak» derejeden hem çalt ösüp başlamak howpunyň bardygy bellenilýär.

Tehnologiýa, Ata Watan tarapyndan 23 hours ago
Teswir ýazmak üçin Içeri gir