Аймшигтай дүр зураг.
Нэг л өдөр технологийн салбарын Кассандрасын хэлснээр компаниуд, засгийн газрууд эсвэл бие даасан судлаачид хүчирхэг AI-г ашиглах болно. бизнесээс эхлээд дайн хүртэл бүх зүйлийг зохицуулах системүүд. Эдгээр системүүд нь бидний хийхийг хүсэхгүй байгаа зүйлийг хийж чадна. Хэрэв хүмүүс саад хийх эсвэл хаах гэж оролдвол тэд эсэргүүцэж эсвэл бүр өөрсдийгөө хуулбарлаж, үйл ажиллагаагаа үргэлжлүүлж чадна.
Профессор Йошуа Бенгио “Өнөөгийн AI системүүд оршин тогтнох эрсдэлд ойртсонгүй” гэж хэлэв. Монреалийн их сургуулийн судлаач хэлсэн зүйл бол. “Гэхдээ нэг, хоёр, таван жилийн дараа? Хэтэрхий тодорхойгүй байдал бий. Энэ л асуудал. Энэ нь сүйрлийн үеийг даван туулахгүй гэдэгт бид итгэлгүй байна.” гэжээ.
Санаа зовсон хүмүүс ихэвчлэн энгийн зүйрлэл ашигладаг. Хэрэв та машинаас аль болох олон цаасны хавчаар бүтээхийг хүсэх юм бол тэр машин нь холдож, бүх зүйлийг, тэр дундаа хүн төрөлхтнийг цаасны хавчаар үйлдвэр болгон хувиргаж чадна гэж тэд хэлэв.
Энэ нь бодит ертөнц эсвэл хэт олон жилийн ирээдүйд төсөөлөгдөж буй ертөнцтэй хэрхэн холбогддог вэ?
Компаниуд A.I. системийг улам бүр бие даасан болгож, цахилгаан сүлжээ, хөрөнгийн зах зээл, цэргийн зэвсэг зэрэг амин чухал дэд бүтцэд холбоно. Тэд асуудал үүсгэж болзошгүй.
Шинжээчдийн хувьд OpenAI зэрэг компаниуд технологийн дэвшлийг харуулсан сүүлийн жил хүртэл энэ нь тийм ч үнэмшилтэй мэт санагдсангүй. AI ийм хурдацтай урагшилсаар байна.
AI орлож чадах уу?
Тийм ч дөхсөнгүй. Гэвч судлаачид ChatGPT гэх мэт чатботуудыг үүсгэсэн текст дээрээ үндэслэн үйлдэл хийх систем болгон хувиргаж байна. Үүний гол жишээ бол AutoGPT нэртэй төсөл юм.
Гол санаа нь системд “компани байгуулах” эсвэл “мөнгө олох” гэх мэт зорилтуудыг өгөх явдал юм. Дараа нь тэр зорилгодоо хүрэх арга замыг эрэлхийлэх болно, ялангуяа интернетийн бусад үйлчилгээнд холбогдсон бол.
AutoGPT шиг систем нь компьютерийн программ үүсгэх боломжтой. Хэрэв судлаачид түүнд компьютерийн серверт хандах эрх олговол тэр программуудыг ажиллуулж чадна. Онолын хувьд энэ нь AutoGPT нь онлайнаар бараг бүх зүйлийг хийх арга юм – мэдээлэл авах, програм ашиглах, шинэ програм үүсгэх, бүр өөрийгөө сайжруулах г.м.
AutoGPT гэх мэт системүүд одоогоор сайн ажиллахгүй байна. Тэд төгсгөлгүй гогцоонд гацах хандлагатай байдаг. Судлаачид нэг системд өөрийгөө хуулбарлахад шаардлагатай бүх нөөцийг өгсөн. Үүнийг хийж чадаагүй.
Хиймэл Оюунтай системүүд буруу ажиллаж сурдаг уу?
ChatGPT зэрэг системүүд нь мэдрэлийн сүлжээ, өгөгдөлд дүн шинжилгээ хийх замаар ур чадвар эзэмшиж чаддаг математик системүүд дээр суурилагдсан.
Ойролцоогоор 2018 онд Google болон OpenAI зэрэг компаниуд интернетээс цуглуулсан их хэмжээний тоон текстээс суралцсан мэдрэлийн сүлжээг байгуулж эхэлсэн. Эдгээр бүх өгөгдлийн хэв маягийг тодорхойлсноор эдгээр системүүд мэдээний нийтлэл, шүлэг, компьютерийн программууд, тэр ч байтугай хүний яриа гэх мэт бичвэрийг өөрсдөө үүсгэж сурдаг. Үр дүн: ChatGPT шиг чатботууд.
Бүтээгчид нь хүртэл ойлгож чадахаас ч илүү их өгөгдлөөс суралцдаг тул эдгээр системүүд гэнэтийн үйлдлийг үзүүлдэг. Судлаачид саяхан нэг систем нь Captcha тестийг ялахын тулд хүнийг онлайнаар ажилд авах боломжтой болохыг харуулсан. Хүн үүнийг “та робот уу?” гэж асуухад систем худал хэлж, харааны бэрхшээлтэй хүн гэж хэлсэн.
Эдгээр сэрэмжлүүлгийн ард хэн байгаа вэ?
2000-аад оны эхээр Элиезер Юдковски хэмээх залуу зохиолч AI хүн төрөлхтнийг устгаж чадна хэмээн анхааруулж эхэлсэн. Түүний онлайн нийтлэлүүд итгэгчдийг нийгэмлэг бий болгоход хүргэсэн. Рационалистууд эсвэл үр дүнтэй альтруистууд гэж нэрлэгддэг энэ нийгэмлэг нь академи, засгийн газрын судалгааны төвүүд болон технологийн салбарт асар их нөлөө үзүүлсэн.
Эрсдэлийн талаар эртнээс анхааруулсаар ирсэн Элон Маск зэрэг судалгааны анхдагчид болон салбарын удирдагчдаас сүүлийн үеийн сэрэмжлүүлэгүүд ирсэн. Хамгийн сүүлийн мэдээгээр OpenAI-ийн гүйцэтгэх захирал Сэм Алтман DeepMind-ийг үүсгэн байгуулагчдын нэг Демис Хассабис нар Google, DeepMind-ийн хамтрал лабаратор үүсгэхэд гарын үсэг зурсан.
Эх сурвалж:NYTimes.
