Anthropic компанийн хиймэл оюун ухааны аюулгүй байдлын судлаач Evan Hubinger ирээдүйд өндөр чадвартай AI системүүд хүний хяналтаас гарсан тохиолдолд хүн төрөлхтөнд сүйрлийн хэмжээний хор хөнөөл учруулах эрсдэл 10 хувиас давж болзошгүй гэж анхааруулжээ.
Тэрээр өнөөдөр ашиглагдаж байгаа хиймэл оюун ухааны загваруудаас шууд үүсэх аюулыг харьцангуй бага гэж үзэж байгаа ч технологийн хөгжил маш хурдтай явагдаж буйд санаа зовниж байгаагаа илэрхийлсэн байна. Түүний үзэж буйгаар ойрын жилүүдэд өөрийн чадамжийг улам сайжруулах боломжтой, хүний оюуны түвшнээс давсан системүүд бий болох нөхцөл бүрдэж магадгүй аж.
Гол асуудал нь хүний зорилготой нийцүүлэх явдал
Hubinger-ийн тайлбарласнаар Anthropic хиймэл оюун ухааныг аль болох аюулгүй хөгжүүлэх чиглэлээр ажиллаж байгаа ч ирээдүйн супер оюун ухааныг хүний зорилго, үнэт зүйл, ашиг сонирхолтой тогтвортой нийцүүлэн ажиллуулах асуудлыг бүрэн шийдэх тодорхой арга одоогоор байхгүй байна.
Энэ асуудлыг хиймэл оюун ухааны аюулгүй байдлын салбарт “alignment” буюу системийн зорилгыг хүний зорилготой нийцүүлэх асуудал гэж нэрлэдэг.
Өөрөөр хэлбэл, AI систем илүү чадвартай болох тусам зөвхөн өгсөн даалгаврыг гүйцэтгэхээс гадна хүний хүсээгүй арга замаар зорилгодоо хүрэх эрсдэлийг хэрхэн хязгаарлах вэ гэдэг нь гол сорилт болж байгаа юм.
Anthropic, OpenAI-г хангалттай болгоомжлохгүй байна гэж шүүмжилжээ
Hubinger-ийн байр суурьтай өмнө нь Anthropic болон OpenAI-д ажиллаж байсан судлаач Jacob Cockson мөн санал нийлсэн байна.
Тэрээр томоохон AI компаниуд технологийн хөгжлийн хурднаас үүдэх урт хугацааны эрсдэлийг хангалттай хэмжээнд тооцож үзэхгүй байна хэмээн шүүмжилжээ.
Cockson-ийн үзэж буйгаар ирээдүйн өндөр чадвартай системүүд цахим орчин дахь төрөл бүрийн системд нэвтрэх, олон салбарын үйл ажиллагаанд богино хугацаанд нөлөөлөх, улмаар бодит нөөц болон эрх мэдэлд хүрэх боломжтой болох эрсдэлийг үгүйсгэж болохгүй аж.
Гэхдээ ийм хувилбарууд нь одоогоор ирээдүйн боломжит эрсдэлийн талаарх судлаачдын таамаг, үнэлгээ бөгөөд заавал биелэх нь тогтоогдсон баримт биш юм.
Бие даан ажилладаг системүүдийн эрсдэл анхаарал татаж байна
Сүүлийн үед бие даан даалгавар гүйцэтгэх чадвартай хиймэл оюун ухааны системүүд хурдацтай хөгжиж байгаа нь тэдгээрийг хэрхэн хянах тухай асуудлыг улам чухал болгожээ.
Кибер аюулгүй байдлын салбарт AI системүүдийг халдлагын ажиллагаанд ашигласан болон өндөр түвшний автоматжуулалттай халдлагад оролцуулсан тохиолдлуудын талаар мэдээлэх болсон нь энэ асуудлыг улам хурцатгаж байна.
Ийм системүүдийн чадвар нэмэгдэхийн хэрээр хүний хяналт, зөвшөөрөл, хязгаарлалт ямар түвшинд байх ёстой вэ гэдэг дээр судлаачид болон технологийн компаниудын дунд хэлэлцүүлэг үргэлжилж байгаа юм.
Anthropic өөрийн үнэлгээндээ ч эргэлзээ нэмэгдсэнийг тэмдэглэжээ
Anthropic наймдугаар сард нийтэлсэн аюулгүй байдлын тайландаа өндөр чадвартай хиймэл оюун ухаан бие даан үйл ажиллагаагаа өргөжүүлж, улмаар маш том хэмжээний хохирол учруулах эрсдэлийг одоогоор бага гэж үнэлсэн байна.
Гэсэн ч компани өмнөх үнэлгээнээсээ илүү тодорхой бус байдал нэмэгдсэн гэдгийг тайландаа тэмдэглэжээ.
Энэ нь өнөөгийн системүүд шууд сүйрлийн түвшний аюул учруулж байна гэсэн үг биш ч ирээдүйн илүү хүчирхэг загваруудыг хөгжүүлэхдээ эрсдэлийг урьдчилан тооцох шаардлага нэмэгдэж байгааг харуулж байна.
AI-ийн хөгжлийн хурдыг зохицуулахыг уриалж байна
Хиймэл оюун ухааны аюулгүй байдлын талаарх сэрэмжлүүлэг шинэ зүйл биш. Гэхдээ сүүлийн үед технологийн чадамж маш хурдтай нэмэгдэж байгаатай холбоотойгоор хүний хяналт хөгжлийн хурднаас хоцорч болзошгүй гэх болгоомжлол улам их сонсогдох болжээ.
Зарим судлаач болон технологийн салбарын төлөөлөл AI-ийн хөгжлийг шууд зогсоохоос илүүтэй аюулгүй байдлын шалгуур, хяналт, олон улсын нийтлэг дүрмийг илүү хурдан боловсруулах шаардлагатай гэж үзэж байна.
Тухайлбал, хиймэл оюун ухааны салбарын 1,300 гаруй ажилтан АНУ-ын Засгийн газарт хандан AI-ийн хөгжлийн хурдыг зохистой түвшинд барих, улс орнуудын хооронд аюулгүй байдлын нэгдсэн тогтолцоо бий болгохыг уриалсан нээлттэй захидалд гарын үсэг зурсан байна.
Evan Hubinger-ийн дурдсан “10 хувиас өндөр” гэх тоо нь батлагдсан статистик бус, ирээдүйн эрсдэлийн талаарх түүний хувийн мэргэжлийн үнэлгээ юм. Гэсэн ч ийм анхааруулгууд хиймэл оюун ухаан илүү хүчирхэг болохын хэрээр зөвхөн боломжийг нь бус, хяналт болон аюулгүй байдлыг зэрэг хөгжүүлэх шаардлагатайг дахин сануулж байна.
Эх сурвалж: BBC
