ความเสี่ยงจากการใช้ AI
ขณะนี้เราจะเห็นภาพยนตร์แนว Sci-Fi หลายเรื่อง ที่เล่าเรื่องถึงเทคโนโลยีที่เกินกว่าความฉลาดของมนุษย์ มีการทำลายและสุดท้ายก็ยึดครองมนุษยชาติไว้ ถึงแม้ว่าฉากเหล่านั้นจะยังไม่เคยเกิดขึ้นในชีวิตจริง แต่การมาถึงของ ChatGPT ดูเหมือนจะกลายเป็นจุดเริ่มต้นของเหตุการณ์ในเรื่องราวของภาพยนตร์แนว Sci-Fi เหล่านั้น
และนั่นเป็นเพียงหนึ่งในเครื่องมือปัญญาประดิษฐ์ที่มีอยู่มากมายในตอนนี้…
ในขณะที่ผู้นำองค์กรด้านเทคโนโลยีระดับสูง เช่น Elon Musk (CEO ของ Tesla) กำลังผลักดันให้บริษัทลงเอยกับการใช้ AI ขนาดใหญ่เพื่อมาพัฒนาผลิตภัณฑ์ให้ล้ำสมัย แต่กลับรู้สึกวิตกกังวล โดยพยายามประเมินความเสี่ยงให้รอบด้าน ซึ่งต่อมามีการประกาศต่อสาธารณะว่า การนำ AI มาใช้งาน “อาจก่อให้เกิดความเสี่ยงต่อสังคมและมนุษยชาติ” เพราะไม่มีการบริหารจัดการและการควบคุมที่ชาญฉลาดพอที่จะจัดการ AI ได้ในตอนนี้ ดังนั้นจึงเสนอขอให้หยุดพัฒนา AI เป็นการชั่วคราว และยังเน้นถึงความจำเป็นของกระบวนการและหน่วยงานกำกับดูแลที่เป็นเอกภาพในเรื่องของ AI
อย่างไรก็ตาม อีกกลุ่มหนึ่งกลับมองว่า ทั้งหมดนี้เป็นการสร้างภาพ ยกย่องข้อดีและกังวลกับข้อเสียมากเกินไป เพราะยังไงเสีย ตอนนี้ AI ก็ได้เข้ามาเป็นส่วนหนึ่งในการสร้างเส้นทางขึ้นในธุรกิจบนโลกของเราแล้ว และสิ่งที่จำเป็นที่สุด คือ การอัปเดตความรู้และความเสี่ยงทางด้าน AI ที่กำลังเปลี่ยนแปลงอย่างรวดเร็ว ซึ่งคนทำงานทางด้าน IT อย่างพวกเรา โดยเฉพาะระดับ Management จึงจำเป็นต้องวิ่งตามให้ทัน
เมื่อการทำงานขององค์กรเจอกับปัจจัยเกี่ยวกับปัญญาประดิษฐ์
ในปีที่ผ่านมา มีการนำ AI มาใช้งานอย่างแพร่หลายในหลากหลายอุตสาหกรรม ยกตัวอย่างเช่น OpenAI’s ChatGPT3 และ Google’s Bard ซึ่งก่อให้เกิดคำถามถึงความเหมาะสมหรือความถูกต้องของการนำไปใช้งานในด้านต่าง ๆ เช่น การใช้ให้ AI ในการเขียนโค้ดคอมพิวเตอร์ การเขียนบทกวีรูปแบบ Shakespearean-style การวางแผนการรักษาทางคลินิก ฯลฯ ซึ่งแต่ละอย่างนั้น ทำให้องค์กรและผู้ใช้นับล้านได้รับความสะดวกสบายมากขึ้น อย่างไรก็ตามยังมีความเสี่ยงของการใช้ AI ที่องค์กรยังไม่ได้ทำการคิด วิเคราะห์ หรือประเมิน ก่อนการใช้งานในปัจจุบัน (เพราะองค์กรยังไม่แม้แต่เห็นความเสี่ยงของ AI หรือเห็นความเสี่ยงน้อย เมื่อเทียบกับอัตรากำไรที่ AI สร้างให้ธุรกิจได้)
แนวทางการบริหารความเสี่ยงเกี่ยวกับ AI เพื่อประโยชน์ขององค์กร
AI กำลังจะแทรกแซงธุรกิจในทุกอุตสาหกรรม ตั้งแต่วงการการศึกษา (การวางแผนเส้นทางการเรียน) การเขียนบทสำหรับ Hollywood ไปจนถึงการวิเคราะห์ข้อบกพร่องในการออกแบบพื้นผิวในโรงงาน ดังนั้น ในฐานะผู้บริหารความเสี่ยงขององค์กรควรพิจารณาดำเนินการตาม 4 ขั้นตอนสำคัญต่อไปนี้ เพื่อให้ได้ประโยชน์สูงสุดในการใช้เทคโนโลยี AI ในองค์กร และยังอยู่ในความเสี่ยงที่ควบคุมได้
- ระบุประโยชน์ของ AI
- ระบุความเสี่ยงของ AI
- กำหนดวิธีการบริหารจัดการความเสี่ยงอย่างต่อเนื่อง
- กำหนดขั้นตอนการรักษาความปลอดภัยของ AI ที่เหมาะสม
หากผู้นำธุรกิจสามารถปฏิบัติตามขั้นตอนเหล่านี้ได้ องค์กรมีโอกาสมากที่จะสร้างสมดุลที่ดีขึ้นระหว่างความเสี่ยงกับประโยชน์เมื่อใช้เครื่องมือและกระบวนการที่ใช้เทคโนโลยี AI ในองค์กร
การระบุประโยชน์ของ AI (AI Benefit Analysis)
สำหรับการระบุประโยชน์ของ AI เพื่อดำเนินการวิเคราะห์ประโยชน์อย่างครอบคลุม องค์กรควรพิจารณาตามประเด็นต่าง ๆ ดังต่อไปนี้
- บริษัททำงานอะไรและทำไมต้องทำ
- คู่แข่งของบริษัทใช้เครื่องมือ AI อย่างไร
- มีการวัดผลอย่างไร
- การลงทุนใน AI มีต้นทุนเท่าไหร่ และมีการลงทุนที่ได้รับกลับมาเท่าไหร่
- มีขั้นตอนการรักษาความมั่นคงปลอดภัย และสอดคล้องกับ CIA (Confidentiality, Integrity, Availability) มากเพียงใด
- แผนกลยุทธ์และเป้าหมายปัจจุบันของบริษัทจะเปลี่ยนไปอย่างไร เมื่อ AI ลดข้อจำกัดทางต้นทุนและความสามารถที่สำคัญออกไป
- พนักงานและพาร์ทเนอร์สามารถนำมาใช้ในส่วนนวัตกรรม AI ได้อย่างไร
คำตอบของคำถามเหล่านี้จะทำให้องค์กรสามารถวางแผน และเชื่อมโยงความสำคัญระหว่างการใช้ AI การทำงานขององค์กร และที่สำคัญที่สุดคือสอดคล้องกับเป้าหมายขององค์กร
ตัวอย่างความเสี่ยงด้าน AI
ความเสี่ยงทางด้าน AI สามารถจำแนกได้เป็นหลายด้าน เช่น ความเสี่ยงทางสังคม ความเสี่ยงทางด้านการละเมิดทรัพย์สินทางปัญญา วันนี้จะขอยกมา 1 ตัวอย่าง นั่นคือ ความเสี่ยงด้าน Cybersecurity and Resiliency นะคะ
ความเสี่ยงด้าน Cybersecurity and Resiliency
จากเดิม ที่ผู้โจมตีต้องใช้ความพยายามในการเข้าถึงระบบเพื่อโจมตีให้เกิดความเสียหาย แต่ AI ช่วยทำให้เรื่องนี้ง่ายขึ้นได้
AI ได้เปิดทางให้ผู้โจมตีขยายขนาดการโจมตีของพวกเขาได้มากขึ้น โดยการสร้างการโจมตี Phishing หรือการโจมตีผ่านทางโทรศัพท์ หรือข้อความเสียง เช่น การโทรด้วย AI จาก Google Assistance ที่แสดงในงาน Google I/O ปี 2018 ที่มันสื่อสารกับบุคคลอื่นที่อยู่ทางอีกฝั่งของโทรศัพท์โดยที่ปลายสายไม่รู้ตัวว่าพวกเขากำลังพูดกับเสียงสังเคราะห์จากระบบอัตโนมัติ
(อ้างอิง https://telefonicatech.com/en/blog/cyber-security-evolution-ai-as-a-tool-for-attack-and-defence)
นี่เป็นตัวอย่างของการใช้ AI ที่ทำให้หลายคนสามารถใช้พลังของมันในการทำลายความมั่นคงปลอดภัยของระบบสารสนเทศได้
นอกจากนี้ ยังมีอีกหลายตัวอย่างที่น่าสนใจ เช่น การใช้ API ช่วยสร้าง E-mail ที่ดูน่าเชื่อถือ ก่ออาชญากรรมทางไซเบอร์ (เช่น Phishing) ที่มีความซับซ้อนมากขึ้น, การใช้ AI สร้างมัลแวร์ได้เร็วขึ้น, การใช้ AI ช่วยเขียนสคริปต์การแฮกเพิ่ม, การเปิดโจมตี Ransomware, การปลอมเสียงเพื่อยืนยันตัวตนกับธนาคาร เพื่อทำธุรกรรมทางการเงิน อย่างที่เป็นข่าวแก๊งคอลเซนเตอร์อย่างทุกวันนี้
ดังนั้น องค์กรจึงจำเป็นอย่างยิ่งที่ต้องพิจารณาความเสี่ยงให้รอบด้าน เพื่อจัดการความเสี่ยงให้ครบถ้วน
การนำ Continuous Risk Management Approach มาใช้ในการจัดการ AI
ขณะนี้ เริ่มมีการจัดทำกรอบหรือแนวทางการจัดการและควบคุม AI ออกมาให้เห็นบ้างแล้ว ซึ่งเป็นเครื่องมือที่จะช่วยให้องค์กรสามารถเข้าใจ Continuous Risk Management Approach (การพัฒนาแนวโน้มการประเมินความเสี่ยงอย่างต่อเนื่อง) เช่น กรอบการจัดการความเสี่ยง AI (AI RMF 1.0) จากสถาบันมาตรฐานและเทคโนโลยีแห่งชาติ (NIST) ดังนั้น องค์กรจึงควรมีการจัดการความเสี่ยงและจัดการสมดุลที่เหมาะสม นำไปสู่วิธีการประเมินความเสี่ยงอย่างต่อเนื่อง (Continuous Risk Management Approach) ซึ่งมีขั้นตอนดังนี้
- ระบุความเสี่ยงขององค์กรโดยรวม
- กำหนดความต้องการที่จะรับความเสี่ยงขององค์กร
- ตรวจสอบและจัดการความเสี่ยง
หากองค์กรใดสามารถจัดการความเสี่ยง และควบคุมการใช้งาน AI ได้ดี ย่อมเกิดประโยชน์มากขึ้นแก่องค์กร
การปรับตัวสู่ยุคของ AI
ในเรื่อง “Republic” Plato เคยกล่าวว่า “จุดเริ่มต้นคือส่วนที่สำคัญที่สุดของงาน” การเริ่มต้นการตอบสนองขององค์กรต่อ AI จะกำหนดความสำเร็จในระยะยาวที่ยั่งยืนต่อองค์กรได้ ตอนนี้สมควรแก่เวลาที่องค์กรจะหันกลับมามองและวางแผนเกี่ยวกับความเสี่ยงและผลกระทบของการเปลี่ยนแปลงของ AI ความเปลี่ยนแปลงที่รวดเร็ว และการเรียกร้องต่อการระเบียบกฎหมายที่ควรปรับปรุงแก้ไขให้ทันตามยุคสมัย
องค์กรต้องฉุกคิดอีกครั้ง ก่อนนำ AI มาใช้ เพื่อจัดการเชิงกลยุทธ์อย่างถูกทิศทาง
เหมือนกับเทคโนโลยีอื่น ๆ ผู้ใช้งานได้ใช้งานไปแล้ว และคงใช้งานอย่างต่อเนื่อง การบริหารความเสี่ยงและการกำกับดูแล AI จึงกลายเป็นสิ่งที่รอไม่ได้ ดังนั้น องค์กรที่เห็นความสำคัญ และลงมือก่อน ก็จะสามารถสร้างพื้นฐานที่แข็งแรงที่สุดและประสบความสำเร็จมากที่สุดจากยุคใหม่ของปัญญาประดิษฐ์นี้
Reference
- Futureoflife.org, “Pause Giant AI Experiments: An Open Letter,” 22 March 2023, https://futureoflife.org/open-letter/pause-giant-ai-experiments/
- Rundle, J.; “Cybersecurity Chiefs Navigate AI Risks and Potential Rewards,” The Wall Street Journal, 25 May 2023, https://www.wsj.com/articles/cybersecurity-chiefs-navigate-ai-risks-and-potential-rewards-9138b76d
- Openai.com, “Introducing ChatGPT,” 30 November 2022, https://openai.com/blog/chatgpt
- bard.google.com, “Try Bard, an AI experiment by Google,” https://bard.google.com/
