ซอฟต์แวร์โอเพ่นซอร์สใหม่ของ NVIDIA ได้รับการออกแบบมาเพื่อป้องกันไม่ให้ AI ระบุข้อเท็จจริงที่ไม่ถูกต้องและข้อผิดพลาดอื่นๆ
เทคโนโลยีประดิษฐ์มีการแบ่งขั้วอย่างไม่น่าเชื่อ เนื่องจากบริษัทรายใหญ่ที่สุดของโลกหลายแห่งยังคงลงทุนเงินและทรัพยากรไปกับเทคโนโลยีดังกล่าว ข้อกังวลประการหนึ่งเกี่ยวกับ AI คือการแพร่กระจายของข้อมูลเท็จและภัยคุกคามด้านความปลอดภัยโดยรวม NVIDIA มีจุดยืนในการสนับสนุน AI มาอย่างยาวนาน และขณะนี้ได้เปิดตัว NeMo Guardrails ซึ่งเป็นซอฟต์แวร์โอเพ่นซอร์สตัวใหม่ที่มุ่งเป้าไปที่ปัญหาที่ยังค้างอยู่ที่ใหญ่ที่สุดเกี่ยวกับบริการ AI
NVIDIA ประกาศ NeMo Guardrails ในโพสต์ข่าวเมื่อเว็บไซต์ของมันวันนี้. NVIDIA ได้แบ่ง Guardrails ออกเป็นสามฟังก์ชันหลัก: ความปลอดภัย การรักษาความปลอดภัย และเฉพาะที่ รั้วกั้นความปลอดภัยจะป้องกันไม่ให้ AI ให้ข้อมูลที่ไม่ถูกต้องแก่ผู้ใช้ สิ่งที่โดดเด่นที่สุดคือ Bing AI ของ Microsoft ที่น่าอับอายให้คำตอบที่ผิดสำหรับคำถามในการสาธิตเดือนกุมภาพันธ์ทำให้เกิดความไม่แน่นอนเกี่ยวกับเทคโนโลยี AI มากยิ่งขึ้น
ที่มา: เอพี
Security Guardrails จะ “จำกัดแอปให้เชื่อมต่อกับแอปพลิเคชันบุคคลที่สามภายนอกที่ทราบว่าปลอดภัยเท่านั้น” NVIDIA กล่าว สุดท้าย Topical Guardrails จะหยุดไม่ให้ AI ตอบคำถามที่ไม่เกี่ยวข้องกับบริการของตน ตัวอย่างที่ให้ไว้คือ AI ที่ทำงานด้านการบริการลูกค้าจะไม่ตอบคำถามเกี่ยวกับสภาพอากาศ
Jensen Huang ซีอีโอของ NVIDIA เป็นผู้สนับสนุนปัญญาประดิษฐ์มานานแล้ว ก่อนที่ ChatGPT บูมจะจุดชนวน AI ภายใต้บริษัทที่ใหญ่ที่สุดในโลก ในเดือนกุมภาพันธ์เขากล่าวว่าเทคโนโลยีนี้ที่ "จุดเปลี่ยน"NVIDIA ยังใช้ AI ในผลิตภัณฑ์และบริการบางอย่างของตัวเอง เช่น NVIDIA Broadcast และ DLSS
ด้วย NeMo Guardrails ของ NVIDIA ที่กำลังจะมาถึง เป็นเรื่องน่าสนใจที่จะเห็นว่าเทคโนโลยีนี้ถูกนำไปใช้กับบริการ AI อย่างไร นอกจากนี้เรายังอยากรู้ว่ามีซอฟต์แวร์หรือผลิตภัณฑ์อื่น ๆ ที่เกี่ยวข้องกับ AI ใดบ้างNVIDIAอาจจะแนะนำไปตามถนน สำหรับข้อมูลเพิ่มเติมเกี่ยวกับAIและการนำไปใช้ในอุตสาหกรรมเทคโนโลยีและเกม Shacknews มีทุกสิ่งที่คุณจำเป็นต้องรู้
โดโนแวนเป็นนักข่าวจากแมริแลนด์ ความทรงจำในการเล่นเกมที่เก่าแก่ที่สุดของเขากำลังเล่น Pajama Sam บนเดสก์ท็อปของแม่ในช่วงสุดสัปดาห์ Pokémon Emerald, Halo 2 และ Star Wars Battlefront 2 ดั้งเดิมเป็นชื่อที่มีอิทธิพลมากที่สุดในการปลุกความรักในวิดีโอเกมของเขา หลังจากฝึกงานกับ Shacknews ทั่วทั้งวิทยาลัย Donovan สำเร็จการศึกษาจาก Bowie State University ในปี 2020 ในสาขาวิชาเอกวารสารศาสตร์ออกอากาศและเข้าร่วมทีมเต็มเวลา เขาเป็นคนที่คลั่งไคล้ภาพยนตร์มากและจะพูดคุยกับคุณเกี่ยวกับภาพยนตร์และเกมตลอดทั้งวัน คุณสามารถติดตามเขาได้บนทวิตเตอร์@Donimals_
