[นักวิเคราะห์ส่วนตัว] ปกติการใช้บริการ Gen AI มักจะต้องใช้งานผ่านอินเทอร์เน็ตหรือคลาวด์ ทว่าช่วงหลัง ๆ ก็เริ่มคิดค้นให้ใช้งานแบบออฟไลน์ได้แล้ว เพื่อให้มีทั้งความปลอดภัยและเป็นส่วนตัวมากขึ้น ส่วนเบื้องหลังนั้นก็มาจากการใช้ชิปซีพียูหรือการ์ดจอ Gen ใหม่ มาช่วยประมวลผลโดยตรงนี้เอง อย่างล่าสุดทาง NVIDIA ได้เปิดตัวแชทบอทของตัวเองแล้ว ใช้พลัง AI จาก TensorRT-LLM ที่รันบนการ์ดจอ RTX รวมถึงไฟล์ในเครื่อง PC ของผู้ใช้เองด้วย
อาจเรียกได้ว่าเป็น ‘แชทบอทระบบปิด’ โดยแท้ ซึ่งทาง NVIDIA เผยได้นำ Large Language Model หรือ LLM มาใช้ในอย่าง Mistral กับ Llama 2 รองรับการใช้งานบน Windows 11 ส่วนการใช้งานนั้น ผู้ใช้สามารถนำไฟล์เอกสารต่าง ๆ ที่มีในเครื่อง PC อาทิ Doc , txt , pdf หรือ xml มาช่วย ‘เทรนด์’ ให้ AI เก่งยิ่งขึ้น
นอกจากไฟล์ภายในแล้ว ตัว AI ยังรองรับการวิเคราะห์จากลิงค์ URL ของ Youtube เพื่อช่วยสรุปข้อมูลต่าง ๆ ที่ปรากฏได้ด้วย นับว่าเหมาะสำหรับสาย Content ที่อาจนำข้อมูลต่าง ๆ มาให้บริการ AI by RTX ของ NVIDIA ช่วยวิเคราะห์ได้นั้นเอง
ท้ายนี้ตัวแชทบอทของ NVIDIA ยังอยู่ในช่วงทดสอบ ซึ่งอาจแสดงให้เห็นถึงความสามารถด้าน AI อย่างแท้จริงในเร็ว ๆ นี้
ที่มา : NvidiaNews
