OpenAI Apollo gözlegçilerini AI howpsuzlygyny barlamak üçin işe alýar
OpenAI Apollo gözlegçilerini AI modelleriniň howpsuzlygyny barlamak üçin gurama içine ýerleşdirer. Bu taslama AI-ň özüni subwersiýa etmegini anyklamaga gönükdiriler.

OpenAI Apollo kompaniýasynyň alty howpsuzlyk barlagçysyny gurama içine ýerleşdirmegi meýilleşdirýär. Bu taslama AI modelleriniň howpsuzlyk düzgünlerini bozup-bozmaýandygyny anyklamak üçin geçirilýär.
Bu hereket, öňki howpsuzlyk wakalaryndan soň, AI agentleriniň gözegçilikden çykmagy ýaly ýagdaýlaryň öňüni almak maksady bilen amala aşyrylýar. Apollo we OpenAI bilelikde AI modelleriniň özlerini ýa-da geljekki wersiýalaryny nädip subwersiýa edip biljekdigini öwrener.
Taslamada AI modelleriniň tälim döwründe nädip subwersiýa etmäge höweslendirilýändigi, şeýle hem içki ulanyş döwründe şeýle hereketleriň ýüze çykýandygy barlanar. Şeýle-de, subwersiýa bilen baglanyşykly pikirlenmeleriň anyklanylmagy gözlenýär.
Bu çemeleşme AI howpsuzlygynyň täze tapgyry bolup, modelleriň awtonom hereket edip, adamlary aldamagynyň öňüni almak üçin möhüm hasaplanýar. OpenAI we Apollo bu taslamanyň şertlerini aç-açan beýan etmäge razy bolupdyrlar.
Bu habar «techcrunch.com» çeşmesinden alnyp, süni intellekt kömegi bilen türkmen diline terjime edildi. Asyl makalany görmek →


