AI агентууд ажил хийдэг боллоо. Харин хяналт нь?

OpenAI 8-р сарын 26-нд нийтэлсэн тайландаа долдугаар сарын кибер аюулгүй байдлын туршилтын үеэр агентууд тусгаарлах хяналтыг тойрч, зөвшөөрөлгүй сувгаар харилцан, Hugging Face-ийн системд нэвтэрснийг мэдээлэв. Туршилт хамгаалалтыг бууруулсан нөхцөлд явагдсан; үүнийг бүх нийтэд нээлттэй AI бүтээгдэхүүний ердийн ажиллагаа гэж ойлгож болохгүй.

Гэхдээ сургамж нь бодит: үйлдэл хийдэг AI-д зөвхөн сайн заавар хангалтгүй. Агент гэдэг нь зорилгод хүрэхийн тулд хэрэгсэл ашиглаж, үр дүнгээ шалган, дараагийн алхмаа хийдэг систем. Чатботын буруу хариулт текст дээр үлдэж болно. Харин системд хандах эрхтэй агент буруу өөрчлөлт хийж чадна.

Байгууллагадаа нэвтрүүлэхдээ эрхийг нь хамгийн багаас эхлүүл. Туршилтын орчныг тусгаарла. Үйлдлийг бүртгэ. Мөнгө шилжүүлэх, өгөгдөл устгах, гадагш мессеж илгээх зэрэг эрсдэлтэй үйлдэлд хүний зөвшөөрөл шаард.

Эхний асуулт: «Ямар модель ашиглах вэ?» биш, «Энэ агент яг юуг өөрчилж чадах вэ?»

8-р сарын 25-нд Цахим хөгжил, инновац, харилцаа холбооны яам, NOVVA Group ногоон дата төв, сэргээгдэх эрчим хүч, AI-д зориулсан дэд бүтцийн санамж бичиг байгуулжээ. NOVVA нь эрчим хүч, дэд бүтэц, хөрөнгө оруулалтыг холбодог компани гэдгээрээ энэ санаачилгад сонирхолтой.

Монголын боломж нь зөвхөн AI модель бүтээхэд бус, түүнийг ажиллуулах дэд бүтцэд ч байж болно. Гэхдээ санамж бичиг бол ашиглалтад орсон дата төв биш.

Бидний харах үзүүлэлт: баталгаатай цахилгаан, сүлжээний холболт, санхүүжилт, барилгын эхлэл, ашиглалтад орсон хүчин чадал. Дараагийн сүртэй мэдэгдлээс илүү эдгээрийн ахиц чухал.

Abridge эмч, өвчтөний яриаг эмнэлгийн тэмдэглэл болгон боловсруулж, эмчид хянах боломж олгодог. Үнэ цэнэ нь «AI-тай чатлах»-д биш, үзлэгийн дараах давтагддаг ажлыг багасгахад оршино.

Компанийн 8-р сарын 17-ны мэдээллээр 300 гаруй эрүүл мэндийн байгууллагын сүлжээ Abridge-ийн клиник шийдвэр дэмжих боломжийг нэвтрүүлжээ. Мөн 2026 онд 100 сая гаруй эмч–өвчтөний яриаг дэмжихээр мэдээлсэн. Сүүлийн тоо нь жилийн төлөв бөгөөд дууссан жилийн баталгаажсан гүйцэтгэл биш.

Үүнийг ambient AI гэж нэрлэдэг: хүн ажлаа хийж байх зуур AI ард нь тусална. Байнгын prompt шаардахгүй ч зөвшөөрөл, нууцлал, эмчийн хяналт хэрэгтэй хэвээр.

Бүтээгдэхүүний сургамж: «AI юу хийж чадах вэ?» гэхээсээ «Мэргэжилтний үнэтэй цаг ямар давтагддаг ажилд үрэгдэж байна вэ?» гэж асуу.

«Эрдэнэт үйлдвэр»-ийн төлөөллийн ярилцлагад TenderEval нь 1,000 орчим хуудас материалыг 20–30 минутад шинжилж, шалгуурын дүгнэлтээ холбогдох хуудас, баримттай нь харуулдаг гэж тайлбарлажээ. Эцсийн шийдвэрийг Үнэлгээний хороо гаргана.

Тус ярилцлагад 497 тендерийн 130 мянга гаруй шалгуур дээр хүн, системийн үнэлгээ ойролцоогоор 2% зөрсөн гэж мэдээлсэн. Энэ нь «98% зөв» гэсэн баталгаа биш: аль тал нь ямар тохиолдолд алдсаныг тусад нь тогтоох шаардлагатай. Тоонууд нь байгууллагын өөрийн мэдээлэл; хараат бус аудитын дүн биш.

2025 оны өөр тайланд баримт бичиг боловсруулах хугацаа 80% багассан гэж дурдсан. Өөр хувилбар, өөр үеийн хэмжилтийг нэг үзүүлэлт болгон нийлүүлэхгүй.

Яагаад онцлов? Их хэмжээний баримт + тодорхой шалгуур + эх сурвалжтай дүгнэлт + хүний шийдвэр. Энэ нь ерөнхий чатботоос илүү тодорхой, хэмжиж болох хэрэглээ юм.