АНУ-ын хиймэл оюуны аюулгүй байдлын төв Цагаан ордонд тайлагнаж байгаа нь бие даасан байдлын асуудал үүсгэж байна

Сан-Франциско — Олон нийтийн санаа зовнил нь хяналтаас гарсан хиймэл оюун ухаан (AI) агентуудын тухай шинэ мэдээллүүд нэмэгдэж байгаа энэ үед шинэ AI бүтээгдэхүүнүүдийн аюулгүй байдлыг үнэлэх үүрэгтэй АНУ-ын засгийн газрын жижиг хэлтэс одоогоор байнгын удирдагчгүй бөгөөд судалгаагаа нийтлэхээ больжээ.

Худалдаалын яамны бие даасан хэлтэс болох "Супер интеллектийн инноваци ба стандартыг дэмжих төв" буюу CAISSI-ийн албан тушаалтнуудаас саяхан Цагаан ордны нэгэн газарт албан бусаар тайлан өгөхийг хүсчээ. Үүнийг одоогийн ажилтнуудад үзүүлэх бэрхшээлээс сэргийлэхийн тулд нэрээ нууцлахыг хүссэн, үргэлжилж буй яриа хэлэлцээний талаар мэдлэгтэй хоёр хуучин засгийн газрын албан тушаалтан Associated Press-д хэлжээ.

Энэ шинэ зохицуулалт зарим шүүмжлэгчдийг санаа зовоож байна. Тэд гүйцэтгэх засаглал нь кибераюулгүй байдлаас биологийн зэвсэг хүртэлх асуудалд нөлөөлж болох шийдвэрүүдийг улс төржүүлж магадгүй, мөн төвийн дүгнэлтүүд технологийн салбарын өмнө өөрчлөгдөх эсвэл дарагдах эрсдэлтэй гэж эмээж байна. Технологийн салбар нь ихэвчлэн өөрийгөө өөрөө хянах эрхтэй байсан.

"Эдгээр нь амьдралыг маань эрс сайжруулж чадах, эсвэл эсрэгээрээ байж болох үнэхээр хүчирхэг байгууллагууд. Бидний найдвар бол намын харьяалалгүй эсвэл хоёр намын аль алинд нь хамаарах техникийн мэргэжилтнүүдийг оруулж, Америкийн олон нийтэд хамгийн сайн үйлчлэх бодлогыг хэрэгжүүлэх явдал" гэж Америкийн эрдэмтдийн холбооны AI болон шинэлэг технологийн хөтөлбөрийн менежер Каролайн Сигел Сингх хэлсэн.

Бусад хүмүүс AI-ийн аюулгүй байдлын албан тушаалтнуудыг Дональд Трампын ойр орчинд ойртуулах нь энэ хэлтэст илүү нэр хүнд, магадгүй илүү санхүүжилт авч өгч болно гэж үзэж байна. Трамп энэ асуудалд нээлттэй холдмог хандсан байдаг.

Туршлагатай, гэхдээ удирдагчгүй болсон энэ төв жилд 10 сая долларын төсөвтэй. Энэ нь Их Британийн төстэй байгууллагын төсвийн найман дахин бага байна. Гэвч Их Британийн төв дэвшилтэт технологиороо бага алдаршсан байдаг.

Дөрөвдүгээр сард энэ хэлтсийн захирлыг томилж, хэдхэн хоногийн дотор огцруулсан. Түүний орлогч бага зэрэг ажиллаад огцорсон. Тэр цагаас хойш төвд байнгын удирдагч байхгүй бөгөөд харьяалах дээд байгууллагын тэргүүн нь түр захирлын үүргийг давхар гүйцэтгэж байна.

Наймдугаар сард Конгресс төв яагаад тодорхой AI системүүдийн аюулгүй байдлын тайланг гэнэт нийтлэхээ больсныг асууж эхэлсэн. Тэр үед Сан-Францискод байрладаг OpenAI компани бодлого боловсруулагчдад энэ хэлтэст илүү их мөнгө, дэмжлэг үзүүлэхийг уриалсан байв.

Цагаан ордон CAISSI-ийн талаарх тодорхой асуултад хариулаагүй. Гэвч мэдэгдэлдээ Трамп өөрийн "Супер интеллектийн хүч" буюу Хиймэл оюун ухааныг хэлэх дуртай нэрээр шинэ байгууллагаа албан ёсоор байгуулсныг дурджээ. Трамп Шинжлэх ухаан, технологийн зөвлөх хорооноосоо эрсдэлийн талаар тайлан захиалсан бөгөөд "Америкийн ард түмний төлөө SI-д АНУ-ын үргэлжилсэн манлайллыг хангана" гэж Цагаан ордон мэдэгдэв.

Холбооны засгийн газар ихэвчлэн олон нийтэд аль нь аюулгүй болохыг тодорхойлоход идэвхтэй оролцдог.

Жишээлбэл автомашины салбарыг авч үзье. Замын аюулгүй байдлын үндэсний захиргаа машинд мөргөлдөх туршилтын манекен суулгаж, тэдгээрийг ханан руу мөргүүлж, тээврийн хэрэгслийн мөргөлдөөн хүний биед хэрхэн нөлөөлдөгийг хэмждэг. Дараа нь засгийн газрын судлаачид мөргөлдөөний өгөгдлийг шинжилж, олон нийтэд түгээж, аюулгүй байдлыг сайжруулах үндэсний стандарт тогтоодог. Энэ бүхнийг амь нас аврах, мөргөлдөөнөөс үүдэх эдийн засгийн зардлыг бууруулах зорилгоор хийдэг.

AI загваруудын хувьд аюулгүй байдлын туршилт огт өөр харагддаг.

Тэр үеийн ерөнхийлөгч Жо Байдений үед томоохон AI компаниуд "аюулгүй, найдвартай, ил тод хөгжүүлэлт"-ийг дэмжихээр сайн дураараа тохиролцож, Худалдаалын яамны шинээр байгуулагдсан хэлтэст мэдээллээ хуваалцаж, захиргааны удирдамж, ил тод байдлын тайланг дагахаар болсон.

Есдүгээр сард AI системүүд үйлдвэрлэгчдийнхээ хяналтаас гарч байгаа тухай сэрэмжлүүлсэн мэдээллийн дараа Трамп томоохон AI компаниудаас "асар их өөрийгөө хянах" үүрэг хүлээхийг сайн дурын аюулгүй байдлын гэрээний хүрээнд хүссэн. Гэвч түүний засаг захиргаа компаниуд хэрхэн хэрэгжүүлж буйг хянах талаар мэдээлээгүй байна.

Технологи маш хурдан хөгжиж байгаа тул олон загварыг одоо хүний захиалгагүйгээр ажилладаг, бодит орчинд олон алхмыг төлөвлөх чадвартай AI агент хэлбэрээр байрлуулж байна. Жишээлбэл, саяхан нэг AI агент Филадельфийн цагдаад шийдэгдээгүй хүн амины хэргийн талаар худал мэдээлэл илгээсэн явдал гарчээ.

AI-ийн чадвар өссөөр байгаа ч засгийн газрын системүүдийг бие даан шалгах чадвар нь тэр хэмжээнд хүрч чадаагүй. AI агентууд бодит ертөнцөд хэрхэн аюулгүй ажиллаж байгааг турших нэгдсэн арга одоогоор байхгүй. Жишээлбэл AI агент нисэх онгоцны тасалбар захиалах энгийн тохиолдолд ч энэ нь тодорхойгүй хэвээр байгаа гэж Калифорнийн Их Сургуулийн Беркли Мэдээллийн сургуулийн удахгүй томилогдох дэд профессор Сайаш Капур хэлэв.

"Бидний өмнөх арга зам зөвхөн эцсийн хариуг, яг л нислэг зөв захиалагдсан эсэхийг шалгадаг байсан. Энэ тохиолдолд даалгавар зөв шийдэгдсэн мэт харагдаж болно. Гэвч агент хийсэн бүх алхмуудыг харахгүй бол түүний том алдаа гаргасныг та мэдэхгүй" гэж AI агентын үнэлгээг судалсан шинэ нийтлэлийн хамтран зохиогч Капур хэлэв.

Трамп хоёрдугаар үеийнхээ эхэнд венчур хөрөнгө оруулагчид Дэвид Сакс, Сриам Кришнаныг тус тус AI-ийн "хаан" болон ахлах зөвлөхөөр томилсон. Тэдний мэргэжил нь технологийн хөрөнгө оруулалтад байсан бөгөөд AI загваруудын техникийн үнэлгээнд биш байв.

Хоёулаа энэ жилийн эхээр огцорсон ч Сакс одоо Трампын технологийн зөвлөлд ажилладаг. Харин Anthropic компанийн нэр хүндгүй нэгэн инженер AI хөгжүүлэлтийн аюулын талаар анхааруулж огцорсны дараа Трамп бодлогын хэд хэдэн өөрчлөлт хийсэн.

Трамп Үндэсний тагнуулын захирал Жэй Клейтоныг Супер интеллектийн шинэ хүчийг удирдуулахаар томилсон бөгөөд Ерөнхийлөгч энэ нь AI-ийн хөгжүүлэлтэд АНУ-ыг тэргүүлэгч хэвээр байлгана гэж хэлсэн.

Клейтоны энэ хүчинд томилогдсон явдал болон Пентагоны технологийн ахлах захирал Эмил Майклын оролцоо нь захиргаа загварын аюулгүй байдлын шийдвэрийг үндэсний аюулгүй байдлын асуудал мэт харуулж, гүйцэтгэх эрх мэдэл, нууцлалыг шаардаж байгааг харуулж байна. Энэ нь AI-ийн хэрэглэгчийн эрх, хувийн нууц, иргэний эрхэд учруулах эрсдэлийг далдалж байна гэж Брэннан Төвийн ахлах зөвлөх Амос Тох хэлэв.

Энэ жил Кремний хөндийн компаниуд загваруудынхаа оролцсон түгшүүртэй кибер халдлагуудын талаар мэдэгдэж байгаа ч CAISSI AI-ийн аюулгүй байдлын туршилтын талаар бага зэрэг анхаарал татсан байдалтай байна.

Anthropic-ийн гүйцэтгэх захирал Дарио Амодей, OpenAI-ийн гүйцэтгэх захирал Сэм Алтман хоёулаа компаниудынхаа аюулгүй байдлын практикийг шалгахад бие даасан үнэлгээний компаниудын ажлыг дэмжиж байгаа. Гэхдээ AI-ийн том компаниуд эдгээр үнэлгээчдэд хандах эрхийг хязгаарлаж, үр дүнг нь үл тоомсорлож болно.

"Хамгийн том AI компаниуд өөрсдийн дотоод үнэлгээний системийг бий болгох эсвэл гадны үнэлгээчдийг хөлсөлж байгаа үед засгийн газрын үнэлгээчдийн үүрэг тодорхойгүй болж байна. Ийм нөхцөлд засгийн газрын туршилт үнэхээр ямар үүрэгтэй юм бэ?" гэж иргэний эрх, технологийн Upturn төрийн бус байгууллагын ахлах төслийн захирал Логан Коепке асуув.

Лабораторид өөрсдийн загварыг өөрсдөө хянах зөвшөөрөл өгөх, засгийн газрын үүргийг AI-ийн аюулгүй байдлын туршилтад тодорхойлоогүй орхих нь бодит хохирол учруулж чадах AI системүүдийн бие даасан хяналтыг сулруулж байна гэж Тох хэлэв.

"Эцэст нь эдгээр бүх шийдвэр олон нийтэд асар их ач холбогдолтой бөгөөд олны нүдэн дээр тайлбарлагдаж, үндэслэгдэх ёстой. Гэтэл одоо тэгэхгүй байна" гэж тэр хэлэв.