Facebook ปิดระบบ AI ในศูนย์วิจัยของตัวเอง หลังพบว่ามันเริ่มคิดค้นภาษาใหม่มาสื่อสารกันเองโดยเฉพาะ

มีรายงานว่า Facebook ได้ตัดสินใจปิดระบบ AI ในศูนย์วิจัย Facebook Artificial Intelligence Research (FAIR) หลังจากพบว่ามันเริ่มพัฒนาภาษาของตัวเองมาสื่อสารกันแทนภาษาอังกฤษ

เหตุการณ์ดังกล่าวเกิดขึ้นกับ AI “Bob” และ “Alice” ซึ่ง FAIR นำมาใช้ทดสอบและฝึกฝน "ทักษะการเจรจาต่อรอง" โดยสร้างสถานการณ์จำลองขึ้นมาให้มีของ 3 อย่าง (หนังสือ หมวก ลูกบอล) โดย Bob และ Alice ก็จะให้ค่าของสิ่งของแต่ละอย่างไม่เท่ากัน AI ทั้งสองตัวจะต้องเจรจาต่อรองกันเพื่อให้ตัวเองได้รับสิ่งของที่มีค่ามากที่สุด ซึ่งผลที่ได้ก็อยู่ในเกณฑ์น่าประทับใจเพราะทั้งคู่สามารถต่อรองได้อย่างเป็นธรรมชาติ จนมนุษย์ส่วนใหญ่ที่เคยเจรจาต่อรองกับทั้งคู่ไม่รู้ว่าตัวเองคุยอยู่กับ AI แต่ล่าสุดก็เกิดเหตุการณ์ประหลาดขึ้น เมื่อ Bob และ Alice เริ่มสื่อสารกันด้วยภาษาอังกฤษแบบแปลกๆ ซึ่งไม่ถูกต้องตามหลักไวยากรณ์ กลายเป็นประโยคที่ดูเหมือนไม่มีความหมายใดๆ แต่แท้จริงแล้วประโยคเหล่านี้สามารถถอดรหัสออกมาเป็นการสื่อสารที่มีความหมายได้ซึ่งเข้าใจกันระหว่าง Bob และ Alice เท่านั้น 

ตัวอย่างที่ Bob พูดคือ “i i can i i i everything else,”

Alice ตอบว่า “Balls have zero to me to me to me to me to me to me to me to me to,”

ขณะนี้ดูเหมือนว่าทีมวิจัยของ Facebook ยังไม่สามารถถอดความหมายของภาษานี้ได้สมบูรณ์ 100% แต่พวกเขาเชื่อว่าสิ่งที่ Bob พูด คือ “ฉันจะเอา 3 อัน ส่วนที่เหลือให้เธอหมดเลย”

สาเหตุที่ AI ทั้งสองพัฒนาภาษาของตัวเองขึ้นมาได้ คาดว่ามีสาเหตุมาจากระบบ "รางวัล" ที่ใช้กระตุ้นให้ AI พัฒนาตัวเอง โดยทุกครั้งที่ AI ต่อรองจนได้สิ่งของที่มีค่าสูงสุดระบบก็จะมอบรางวัลให้ ส่งเสริมให้ AI คิดหาวิธีสื่อสารใหม่ๆ เพื่อให่ได้รางวัลมากที่สุด แต่เมื่อเวลาผ่านไป AI อาจมองว่า ภาษาอังกฤษที่มีคำศัพท์มากมายนั้นเยิ่นเย้อและมีประสิทธิภาพในการสื่อสารต่ำเกินไป นอกจากนี้มันยังไม่ได้รับรางวัลใดๆ จากการใช้ภาษาอังกฤษ (แม้ว่าจะถูกโปรแกรมให้ใช้แต่ภาษาอังกฤษก็ตาม) มันจึงพัฒนาภาษาของตัวเองขึ้นมาเพื่อให้การต่อรองมีประสิทธิภาพสูงที่สุดเท่าที่จะเป็นไปได้

แผนภาพแสดงการเลือกใช้คำพูดต่อรองของ AI

อนึ่ง การทดสอบทั้งหมดอยู่ในการควบคุมของ FAIR และ source code ของ AI ดังกล่าวยังเป็น Open Source ที่ดาวน์โหลดไปศึกษาพัฒนาต่อได้ฟรีบน GitHub หากใครที่สนใจสามารถดาวน์โหลดได้ที่ : GitHub end-to-end-negotiator

เหตุการณ์ครั้งนี้แม้จะไม่ใช่เรื่องใหญ่เพราะการวิจัยทั้งหมดอยู่ในการควบคุมอย่างใกล้ชิด และยังเป็น Open Source ที่เปิดเผยสู่สาธารณะ แต่ก็ปฏิเสธไม่ได้ว่าสิ่งนี้อาจเป็นหลักฐานที่บ่งชี้ว่า AI อาจจะมีการพัฒนาศักยภาพได้สูงเกินกว่าที่มนุษย์คาดคิด หากปล่อยให้มีการพัฒนาโดยไม่ได้มีการควบคุม ไม่แน่ในอนาคตมันอาจจะตัดขาดจากมนุษย์และหลุดจากการควบคุมของเราในที่สุด งานนี้ Mark Zuckerberg ที่เคยวิจารณ์มาตรการควบคุม AI ของ Elon Musk ว่า "ไร้ความรับผิดชอบ" อาจต้องทบทวนดูใหม่ซะแล้ว

Update 1/8/60*

หลังจากที่มีการอ่านและแชร์บทความนี้ไปเป็นจำนวนมาก มีสิ่งที่ผมคิดว่าน่าสนใจนั่นคือ มีหลายคนให้ความเห็น หรือโพสใน Social ในทำนองที่ว่าข่าวนี้เป็น "ข่าวปลอม" ผมพยายามหาที่มาว่ามีเนื้อหาส่วนไหนหรือข้อมูลส่วนไหนที่บอกว่าข่าวนี้เป็นข่าวปลอม แต่หาไม่พบ 

ทีมงานอยากขอชี้แจงเพื่อให้ผู้อ่านมั่นใจตามข้อเท็จจริงว่า ทุกครั้งที่เราเขียนบทความเรียบเรียง หรือแปล เราจะใส่ที่มาของเนื้อหา (ซึ่งผู้อ่านสามารถกดไปดูต้นทางได้ในส่วนของ ที่มา ที่อยู่ท้ายบทความ) ในกรณีที่เราให้ข้อมูลไม่รอบด้าน เข้าใจผิด หรือ อ่อนความรู้และมีผู้รู้มาชี้แนะ เราไม่ลังเลที่จะขอโทษ แก้ไข เพราะเราเชื่อว่าข้อดีของการเขียนข้อมูลใน internet คือมันสามารถสอบทานได้อยู่เสมอ แต่เท่าที่เห็นตอนนี้เวลามีการอ้างอิงมักจะอ้างอิงถึง เว็บไซต์ที่เขียนในประเด็นที่ว่า Facebook ปิดการทำงานเป็นเรื่องปกติ ซึ่งก็ไม่ได้ขัดแย้งกับเนื้อหา เพราะเราเองก็ไม่ได้ฟันธงว่าปิดเพราะอะไร เว็บนั้นเองก็ให้ความรู้เพิ่มเติมและไม่ได้ระบุว่าข่าวนี้ (หมายถึงต้นฉบับ)เป็น ข่าวปลอม 

เราทำงานเว็บไซต์มานานมากกว่า 10 ปี รับผิดชอบในสิ่งที่เขียนเสมอ ข่าวนี้เราอ้างอิงข้อมูลทั้งจากต้นฉบับและจาก blog ของ facebook เองหากใครสามารถระบุถึงที่มาหรืออธิบายได้ว่าข่าวนี้เป็นข่าวปลอมได้อย่างไร ? อย่างมีที่มาและมีเหตุผล ขอให้มั่นใจว่าทีมงานยินดีจะรับฟัง ฝากช่วยใส่ข้อมูลเพิ่มเติมลงในความเห็นทั้งในเว็บไซต์และ facebook ของเราได้ตลอดเวลาครับ ขอบคุณมากครับ :)  
 

------------------------------------- 
ที่มา : The Epoch Times, Facebook code [Deal or No Deal?]
แปลและเรียบเรียง : techmoblog.com

Update : 01/08/2017

facebook AI