Google คำนึงถึงข้อบกพร่องของการเรียนรู้ของเครื่อง

  • Sep 04, 2023

นักวิทยาศาสตร์ด้าน AI จากหน่วย Google Brain และ DeepMind ของ Google ยอมรับว่าการเรียนรู้ของเครื่องนั้นขาดการรับรู้ของมนุษย์และเสนอ การใช้โมเดลเครือข่ายอาจเป็นวิธีค้นหาความสัมพันธ์ระหว่างสิ่งต่าง ๆ ที่ทำให้คอมพิวเตอร์สามารถสรุปเกี่ยวกับเครือข่ายได้กว้างขึ้น โลก.

การวิพากษ์วิจารณ์เทคโนโลยีปัญญาประดิษฐ์ในปัจจุบันมีเพิ่มมากขึ้นในช่วงสองสามปีที่ผ่านมา และในสัปดาห์นี้ Google ซึ่งเป็นหนึ่งในผู้รับประโยชน์เชิงพาณิชย์ที่ใหญ่ที่สุดของสมัยปัจจุบัน ได้เสนอคำตอบ (บางทีอาจไม่ใช่คำตอบ) ให้กับ นักวิจารณ์

ในบทความที่ตีพิมพ์โดย Google Brain และหน่วย Deep Mind ของ Google นักวิจัยกล่าวถึงข้อบกพร่องในสาขานี้และเสนอเทคนิคบางอย่าง พวกเขาหวังว่าจะนำการเรียนรู้ของเครื่องไปสู่สิ่งที่เรียกว่า "ปัญญาประดิษฐ์ทั่วไป" ซึ่งคล้ายกับการให้เหตุผลของมนุษย์

การวิจัยยอมรับว่าแนวทาง "การเรียนรู้เชิงลึก" ในปัจจุบันของ AI ล้มเหลวในการบรรลุความสามารถในการเข้าถึงทักษะการรับรู้ของมนุษย์ โดยไม่ต้องละทิ้งความสำเร็จทั้งหมดที่ได้รับจากสิ่งต่างๆ เช่น "เครือข่ายประสาทเทียม" หรือ CNN ซึ่งเป็นความสำเร็จอันโดดเด่นของการเรียนรู้ของเครื่อง พวกเขาเสนอวิธีในการถ่ายทอดทักษะการใช้เหตุผลที่กว้างขึ้น

อีกด้วย: Google Brain, Microsoft ขุดคุ้ยความลับของเครือข่ายด้วย AI

บทความเรื่อง "อคติเชิงอุปนัยเชิงสัมพันธ์ การเรียนรู้เชิงลึก และเครือข่ายกราฟ" โพสต์บนบริการพิมพ์ล่วงหน้าของ arXivประพันธ์โดย Peter W. Battaglia จากหน่วย DeepMind ของ Google พร้อมด้วยเพื่อนร่วมงานจาก Google Brain, MIT และมหาวิทยาลัย Edinburgh โดยเสนอการใช้ "กราฟ" ของเครือข่ายเพื่อเป็นแนวทางในการสรุปปัญหาจากปัญหาหนึ่งไปยังอีกปัญหาหนึ่งได้ดีขึ้น

Battaglia และเพื่อนร่วมงาน เรียกงานของพวกเขาว่า "เอกสารแสดงตำแหน่งชิ้นส่วน การตรวจสอบชิ้นส่วน และการรวมชิ้นส่วนเข้าด้วยกัน" สังเกตว่า AI "ได้เข้าสู่ยุคฟื้นฟูศิลปวิทยาเมื่อเร็ว ๆ นี้" ต้องขอบคุณ "ข้อมูลราคาถูกและการคำนวณราคาถูก" ทรัพยากร."

อย่างไรก็ตาม "คุณลักษณะที่กำหนดหลายประการของสติปัญญาของมนุษย์ซึ่งพัฒนาภายใต้ความแตกต่างกันมาก ความกดดัน จงอยู่ให้พ้นจากแนวทางปัจจุบัน" โดยเฉพาะ "การสรุปให้เกินกว่าแนวทางของตน" ประสบการณ์”

ดังนั้น "ช่องว่างขนาดใหญ่ระหว่างความฉลาดของมนุษย์และเครื่องจักรยังคงอยู่ โดยเฉพาะอย่างยิ่งในส่วนที่เกี่ยวกับการเรียนรู้ที่มีประสิทธิภาพและสามารถสรุปได้ทั่วไป"

ผู้เขียนอ้างถึงคำวิจารณ์ที่โดดเด่นเกี่ยวกับ AI เช่น ศาสตราจารย์ แกรี มาร์คัส แห่ง NYU

ในการตอบสนอง พวกเขาโต้แย้งว่า "ผสมผสานแนวทางการเรียนรู้เชิงลึกที่ทรงพลังเข้ากับการนำเสนอที่มีโครงสร้าง" และวิธีแก้ปัญหาของพวกเขาคือสิ่งที่เรียกว่า "เครือข่ายกราฟ" เหล่านี้เป็นแบบจำลองของคอลเลกชันของวัตถุหรือเอนทิตีซึ่งความสัมพันธ์ถูกแม็ปไว้อย่างชัดเจนว่าเป็น "ขอบ" ที่เชื่อมโยง วัตถุ

"ความรู้ความเข้าใจของมนุษย์ทำให้เกิดข้อสันนิษฐานที่แข็งแกร่งว่าโลกประกอบด้วยวัตถุและความสัมพันธ์" พวกเขา เขียนว่า "และเนื่องจาก GN [เครือข่ายกราฟ] มีสมมติฐานที่คล้ายกัน พฤติกรรมของพวกเขาจึงมีแนวโน้มมากขึ้น ตีความได้”

อีกด้วย: Google Next 2018: เจาะลึกยิ่งขึ้นเกี่ยวกับความก้าวหน้าของ AI และการเรียนรู้ของเครื่อง

บทความนี้กล่าวถึงการทำงานเกี่ยวกับ "เครือข่ายประสาทเทียมแบบกราฟ" มานานกว่าทศวรรษอย่างชัดเจน นอกจากนี้ยังสะท้อนถึงความสนใจล่าสุดบางส่วนจากกลุ่ม Google Brain ด้วย การใช้โครงข่ายประสาทเทียมเพื่อค้นหาโครงสร้างเครือข่าย.

แต่แตกต่างจากงานก่อนๆ ผู้เขียนยืนยันอย่างน่าประหลาดใจว่างานของพวกเขาไม่จำเป็นต้องใช้โครงข่ายประสาทเทียม

แต่การสร้างแบบจำลองความสัมพันธ์ของวัตถุเป็นสิ่งที่ไม่เพียงแต่ครอบคลุมความสัมพันธ์ต่างๆ ทั้งหมดเท่านั้น โมเดลการเรียนรู้ของเครื่อง - CNN, โครงข่ายประสาทเทียม (RNN), หน่วยความจำระยะสั้นระยะยาว (LSTM) ระบบ ฯลฯ -- แต่ยังรวมไปถึงแนวทางอื่นๆ ที่ไม่ใช่โครงข่ายประสาทเทียม เช่น ทฤษฎีเซต

รูปภาพ.jpg

นักวิจัย AI ของ Google ให้เหตุผลว่าหลายสิ่งหลายอย่างที่เราอยากจะให้เหตุผลอย่างกว้างๆ เช่น อนุภาค ประโยค วัตถุในรูปภาพ ลงมาที่กราฟความสัมพันธ์ระหว่างเอนทิตี

Google Brain, Deep Mind, MIT, มหาวิทยาลัยเอดินบะระ

แนวคิดก็คือเครือข่ายกราฟมีขนาดใหญ่กว่าแนวทางแมชชีนเลิร์นนิงวิธีใดวิธีหนึ่ง กราฟทำให้สามารถสรุปเกี่ยวกับโครงสร้างที่โครงข่ายประสาทเทียมแต่ละอันไม่มีได้

ผู้เขียนเขียนว่า "โดยทั่วไปแล้วกราฟคือการนำเสนอซึ่งสนับสนุนโครงสร้างความสัมพันธ์ตามอำเภอใจ (แบบคู่) และ การคำนวณบนกราฟทำให้เกิดอคติเชิงอุปนัยเชิงสัมพันธ์ที่แข็งแกร่งเกินกว่าที่เลเยอร์การบิดและการเกิดซ้ำสามารถทำได้ จัดเตรียม."

ประโยชน์ของกราฟก็คือกราฟเหล่านี้อาจมี "ตัวอย่างที่มีประสิทธิภาพ" มากกว่า ซึ่งหมายความว่ากราฟเหล่านี้ไม่ต้องการข้อมูลดิบมากเท่ากับแนวทางโครงข่ายประสาทเทียมที่เข้มงวด

เพื่อให้คุณทดลองใช้ที่บ้าน สัปดาห์นี้ผู้เขียนได้เสนอชุดเครื่องมือซอฟต์แวร์สำหรับเครือข่ายกราฟ เพื่อใช้กับเฟรมเวิร์ก TensorFlow AI ของ Google โพสต์บน Github.

อีกด้วย: Google เตรียม TPU 3.0 สำหรับ AI, การเรียนรู้ของเครื่อง, การฝึกโมเดล

เพื่อมิให้คุณคิดว่าผู้เขียนคิดว่าพวกเขาเข้าใจทุกอย่างแล้ว บทความนี้จึงแสดงรายการข้อบกพร่องที่ยังหลงเหลืออยู่ Battaglia & Co. ตั้งคำถามใหญ่ว่า "กราฟมาจากไหนที่เครือข่ายกราฟทำงานอยู่"

พวกเขาทราบว่าการเรียนรู้เชิงลึกเพียงดูดซับข้อมูลที่ไม่มีโครงสร้างจำนวนมาก เช่น ข้อมูลพิกเซลดิบ ข้อมูลนั้นอาจไม่สอดคล้องกับเอนทิตีใด ๆ ในโลก ดังนั้นพวกเขาจึงสรุปได้ว่ามันจะเป็น "ความท้าทายที่น่าตื่นเต้น" ในการค้นหาวิธีการที่ "สามารถแยกเอนทิตีที่แยกออกจากข้อมูลทางประสาทสัมผัสได้อย่างน่าเชื่อถือ"

พวกเขายังยอมรับว่ากราฟไม่สามารถแสดงทุกสิ่งได้: "แนวคิดเช่นการเรียกซ้ำ โฟลว์การควบคุม และ การวนซ้ำแบบมีเงื่อนไขไม่ตรงไปตรงมาในการแสดงด้วยกราฟ และอย่างน้อยที่สุดก็จำเป็นต้องมีการเพิ่มเติม สมมติฐาน"

อาจจำเป็นต้องใช้รูปแบบโครงสร้างอื่นๆ เช่น บางที การเลียนแบบโครงสร้างที่ใช้คอมพิวเตอร์ รวมถึง "รีจิสเตอร์ ตัวควบคุม I/O หน่วยความจำ สแต็ก คิว" และอื่นๆ

ความคุ้มครองก่อนหน้าและที่เกี่ยวข้อง:

เอไอคืออะไร? ทุกสิ่งที่คุณจำเป็นต้องรู้

คู่มือสำหรับผู้บริหารเกี่ยวกับปัญญาประดิษฐ์ ตั้งแต่การเรียนรู้ของเครื่องและ AI ทั่วไปไปจนถึงโครงข่ายประสาทเทียม

การเรียนรู้เชิงลึกคืออะไร? ทุกสิ่งที่คุณจำเป็นต้องรู้

ข้อมูลเชิงลึกของการเรียนรู้เชิงลึก: ตั้งแต่ความเกี่ยวข้องกับการเรียนรู้ของเครื่องในขอบเขตที่กว้างขึ้น ไปจนถึงวิธีเริ่มต้นใช้งาน

การเรียนรู้ของเครื่องคืออะไร? ทุกสิ่งที่คุณจำเป็นต้องรู้

คู่มือนี้จะอธิบายว่าแมชชีนเลิร์นนิงคืออะไร เกี่ยวข้องกับปัญญาประดิษฐ์อย่างไร ทำงานอย่างไร และเหตุใดจึงสำคัญ

คลาวด์คอมพิวติ้งคืออะไร? ทุกสิ่งที่คุณจำเป็นต้องรู้เกี่ยวกับ

ข้อมูลเบื้องต้นเกี่ยวกับการประมวลผลแบบคลาวด์ตั้งแต่พื้นฐานจนถึง IaaS และ PaaS, ระบบคลาวด์แบบไฮบริด, สาธารณะ และส่วนตัว

เรื่องราวที่เกี่ยวข้อง:

  • AI หรือวิทยาศาสตร์ข้อมูลไม่มีบทบาทใดบทบาทหนึ่ง นี่เป็นความพยายามของทีม
  • Startup Kindred นำความหวังเล็กๆ น้อยๆ มาสู่ AI ในด้านวิทยาการหุ่นยนต์
  • AI: มุมมองจากหัวหน้าสำนักงานวิทยาศาสตร์ข้อมูล
  • Salesforce เปิดตัว Einstein Voice ผู้ช่วยเสียง AI สำหรับองค์กร
  • งานที่ AI กำลังทำลายไม่ใช่งานที่กวนใจฉัน แต่เป็นงานที่เติบโตขึ้นต่างหาก
  • Facebook ปรับขนาด AI อย่างไร