Anthropic хиймэл оюун загваруудын үнэмшлийг батлах систем боловсруулж байна

Anthropic ажиллаж байгаа бөгөөд нээлттэй эх кодтой систем нь тодорхой AI загвар аль нэг гаралтыг бий болгосныг баталгаажуулах зорилготой. Энэ тухай лхагва гаригт нийтэлсэн блог постод дурдсан байна. FlashProve нэртэй систем нь судлаачдын “баталгаатай инференс” гэж нэрлэдэг зүйлийг хангахаар бүтээгдсэн. Энэ нь тодорхой гаралт тодорхой загвараас гарсныг харуулах криптографийн баталгаа, өөрөөр хэлбэл математик баталгаа юм. Энэ нь хэрэглэгчдэд хүлээн авсан хариулт нь тэд ашиглаж байгаа гэж бодсон загвараас жинхэнэ гарсан эсэхийг баталгаажуулах боломж олгох зорилготой.

Имэйлийн криптографийн гарын үсэг нь хүлээн авагчид захидал жинхэнэ илгээгчээс ирсэн эсэхийг шалгах боломж олгодог шиг, FlashProve нь нэг загварыг нөгөөгөөр дүрсэлж хуурах оролдлогыг эсэргүүцнэ. Тэр ч байтугай хуурч буй этгээд загварыг бүтээж, ажиллуулж буй лаборатори өөрөө байсан ч гэсэн. Судлаачид тодруулж хэлэхдээ, энэ системийг AI компани нийтлэг зардлыг бууруулах үүднээс хямд загварыг нууцаар сольж эсвэл гүйцэтгэлийн үр дүнг сайжруулах зорилгоор илүү үнэтэй загвар ашиглахаас сэргийлэхэд ашиглаж болно.

FlashProve нь гуравдагч этгээдийн тодорхой ажлыг дэвшилтэт загвараар гүйцэтгэсэн гэх мэдэгдлийг баталгаажуулахад ч ашиглагдаж болно. “Хөгжүүлэгч нь програм хангамжийн санг дэвшилтэт кибер аюулгүй байдлын загвараар эмзэг байдлын шалгалтад оруулсан гэж мэдэгдэж болно, эсвэл компани бизнес төлөвлөгөөгөө тохирох загвараар зөвшөөрсөн гэж мэдэгдэж болно”, гэж судлаачид бичжээ. “Хэрэглэгч эдгээр мэдэгдлийг хэрхэн баталгаажуулах вэ?”

Систем ажиллахын тулд AI лабораторiуд нийтлэх загвар бүрийнхээ “хурууны хээ”-г нийтлэх шаардлагатай. Үүнийг дараа нь тодорхой гаралттай тулгаж, криптографийн аргаар баталгаажуулж болно. Чухал нь, эдгээр хурууны хээ нь загварын жингүүдийг, өөрөөр хэлбэл загвар хэрхэн ажиллахыг тодорхойлох дотоод тоонуудыг илрүүлдэггүй. Үүнийг Anthropic, OpenAI зэрэг хаалттай загвар үйлдвэрлэгчид нууцалдаг. Иймд лабораториуд хамгийн үнэ цэнтэй хөрөнгөө алдалгүйгээр хурууны хээгээ нийтлэх боломжтой бөгөөд энэ нь арилжааны загваруудтай ч системийг ажиллуулах боломжийг олгоно. Систем мөн хөнгөн байхаар зохиогдсон тул баталгаажуулалтыг локал төхөөрөмж дээр хийж болно.

Зарлалтын хүрээнд судлаачид системийн янз бүрийн элементүүдийн дэлгэрэнгүй техникийн тодорхойлолт, ажиллагаа бүхий кодыг гаргасан. Эдгээр нь GitHub дээр нээлттэй эх кодын лицензээр олон нийтэд бэлэн байна. Системийн судалгаа үргэлжилж байгаа бөгөөд Anthropic эсвэл бусад лабораторид нэвтрүүлэх төлөвлөгөө байхгүй.

“Энэхүү судалгааны пост нь завсрын ахицыг хуваалцах зорилготой бөгөөд бүрэн гүйцэд судалгааны төлөвлөгөө биш”, гэж судлаачид зарлалтын постод тайлбарласан. “Бид үүнийг тодорхой зорилготойгоор хуваалцаж байгаа бөгөөд бусад хүмүүс бидний хийсэн зүйлийг харж, авч, сайжруулаасай гэж хүсэж байна.”