AI อาจช่วยให้เราค้นพบ AI รูปแบบใหม่ มีชุดเทคนิคที่เรียกว่า บาคาร่าAutoML ซึ่งอัลกอริธึมช่วยเพิ่มประสิทธิภาพสถาปัตยกรรมเครือข่ายประสาทหรือด้านอื่นๆ ของโมเดล AI AI ยังช่วยให้สถาปนิกชิปออกแบบวงจรรวมได้ดีขึ้น ปีที่แล้ว นักวิจัยของ Google รายงานในNatureว่าการเรียนรู้แบบเสริมกำลังทำงานได้ดีกว่าทีมใน บริษัทของพวกเขาใน การจัดวางบางแง่มุมของชิปตัวเร่งความเร็วที่พวกเขาออกแบบ
การมาถึงของ AGI อาจอยู่ห่างออกไปหลายสิบปี “เราไม่เข้าใจความฉลาดของเราเอง”
มิทเชลล์กล่าว เนื่องจากส่วนใหญ่ไม่ได้สติ “ดังนั้นเราจึงไม่รู้ว่า AI จะยากหรือง่ายอย่างไร” สิ่งที่ดูเหมือนยากอาจเป็นเรื่องง่ายและในทางกลับกัน ซึ่งเป็นปรากฏการณ์ที่รู้จักกันในชื่อความขัดแย้งของ Moravec หลังจากที่ Hans Moravec นักวิทยาการหุ่นยนต์ ในปี 1988 Moravec เขียนว่า “ค่อนข้างง่ายที่จะทำให้คอมพิวเตอร์แสดงประสิทธิภาพระดับผู้ใหญ่ในการแก้ปัญหาเกี่ยวกับการทดสอบสติปัญญาหรือการเล่นหมากฮอส และยากหรือเป็นไปไม่ได้ที่จะให้ทักษะแก่เด็กอายุ 1 ขวบเมื่อพูดถึงการรับรู้ และความคล่องตัว” เด็กฉลาดอย่างลับๆ ในการมุ่งเป้าไปที่ AGI Precup กล่าวว่า “เรายังเข้าใจมากขึ้นเกี่ยวกับความฉลาดของมนุษย์และเกี่ยวกับความฉลาดโดยทั่วไป”
ทัวริงแยกความแตกต่างระหว่างสติปัญญาทั่วไปและสติปัญญาของมนุษย์ ในบทความปี 1950 ของเขาเกี่ยวกับเกมเลียนแบบ เขาเขียนว่า “เครื่องจักรอาจไม่สามารถทำสิ่งที่ควรจะอธิบายได้ว่าเป็นการคิด แต่สิ่งที่แตกต่างอย่างมากจากสิ่งที่มนุษย์ทำ” ประเด็นของเขา: คุณไม่จำเป็นต้องคิดอย่างคนเพื่อมีความฉลาดที่แท้จริง
สู้ด้วยจรรยาบรรณ
ในเรื่องสั้นปี 1942 เรื่อง “Runaround” หนึ่งในตัวละครของไอแซค อาซิมอฟได้ระบุ “กฎพื้นฐานสามข้อของวิทยาการหุ่นยนต์” หุ่นยนต์หลีกเลี่ยงการก่อให้เกิดหรือยอมให้เป็นอันตรายต่อมนุษย์ พวกเขาเชื่อฟังคำสั่งและปกป้องตนเอง ตราบใดที่การปฏิบัติตามกฎข้อหนึ่งไม่ขัดแย้งกับคำสั่งก่อนหน้านี้
เราอาจนึกภาพว่า “สมองโพซิโทรนิก” ของอาซิมอฟทำการตัดสินใจด้วยตนเองเกี่ยวกับอันตรายต่อมนุษย์ แต่นั่นไม่ใช่ความจริงที่คอมพิวเตอร์ส่งผลต่อความเป็นอยู่ที่ดีของเราทุกวัน แทนที่จะเป็นหุ่นยนต์ฮิวแมนนอยด์ที่ฆ่าคน เรามีอัลกอริธึมที่รวบรวมฟีดข่าว ในขณะที่คอมพิวเตอร์แทรกซึมเข้ามาในชีวิตเรา เราจะต้องคิดให้หนักขึ้นว่าจะสร้างระบบประเภทใดและจะปรับใช้อย่างไร ตลอดจนปัญหาเมตาอย่างเช่น วิธีตัดสินใจ และใครควรตัดสินใจสิ่งเหล่านี้
นี่คือขอบเขตของจริยธรรม ซึ่งอาจดูเหมือนห่างไกลจากความเที่ยงธรรมของคณิตศาสตร์ วิทยาศาสตร์ และวิศวกรรมศาสตร์ แต่การตัดสินใจว่าจะถามคำถามอะไรเกี่ยวกับโลกและเครื่องมือในการสร้างนั้นขึ้นอยู่กับอุดมคติและความรอบคอบของเราเสมอ การศึกษาหัวข้อที่ลึกซึ้งเช่นอวัยวะภายในของอะตอมมีผลชัดเจนต่อทั้งพลังงานและอาวุธ บาร์บารา กรอสซ์ นักวิทยาศาสตร์คอมพิวเตอร์แห่งมหาวิทยาลัยฮาร์วาร์ดกล่าวว่า “มีข้อเท็จจริงพื้นฐานที่ว่าระบบคอมพิวเตอร์ไม่ได้มีค่าเป็นกลาง” กล่าว “เมื่อคุณออกแบบมัน คุณจะนำคุณค่าบางอย่างมาสู่การออกแบบนั้น”
หัวข้อหนึ่งที่นักวิทยาศาสตร์และนักจริยธรรมได้รับความสนใจเป็นอย่างมากคือความเป็นธรรมและอคติ อัลกอริธึมให้ข้อมูลมากขึ้นหรือแม้แต่กำหนดการตัดสินใจเกี่ยวกับการจ้างงาน การรับเข้าเรียนในวิทยาลัย เงินกู้ และทัณฑ์บน แม้ว่าพวกเขาจะเลือกปฏิบัติน้อยกว่าที่ผู้คนทำ แต่ก็ยังสามารถปฏิบัติต่อกลุ่มบางกลุ่มอย่างไม่เป็นธรรม ไม่ใช่โดยการออกแบบ แต่บ่อยครั้งเพราะพวกเขาได้รับการฝึกอบรมเกี่ยวกับข้อมูลที่มีอคติ พวกเขาอาจทำนายพฤติกรรมอาชญากรรมในอนาคตของบุคคลโดยอิงจากการจับกุมครั้งก่อน เช่น แม้ว่ากลุ่มต่าง ๆ จะถูกจับกุมในอัตราที่แตกต่างกันสำหรับจำนวนอาชญากรรมที่กำหนด
และทำให้เกิดความสับสน มีหลายคำจำกัดความของความยุติธรรม เช่น อัตราเท็จบวกเท่ากันระหว่างกลุ่ม หรืออัตราการลบเท็จที่เท่ากันระหว่างกลุ่ม นักวิจัยในการประชุมครั้งหนึ่งได้ระบุคำจำกัดความ 21ประการ และคำจำกัดความมักขัดแย้งกัน ในรายงานฉบับหนึ่ง นักวิจัยพบว่าในกรณีส่วนใหญ่ เป็นไปไม่ได้ทางคณิตศาสตร์ที่จะบรรลุคำจำกัดความทั่วไปสามคำพร้อมกัน
ความกังวลอีกประการหนึ่งคือความเป็นส่วนตัวและการเฝ้าระวังเนื่องจากขณะนี้คอมพิวเตอร์สามารถรวบรวมและจัดเรียงข้อมูลในการใช้งานในลักษณะที่ก่อนหน้านี้ไม่สามารถจินตนาการได้ ข้อมูลเกี่ยวกับพฤติกรรมออนไลน์ของเราสามารถช่วยคาดเดาแง่มุมต่างๆ ของชีวิตส่วนตัวของเราได้ เช่น เรื่องเพศ การจดจำใบหน้ายังสามารถติดตามเราได้ทั่วโลก โดยช่วยตำรวจหรือรัฐบาลเผด็จการ และสาขาเทคโนโลยีประสาท ที่เกิดขึ้นใหม่ ก็กำลังทดสอบวิธีเชื่อมต่อสมองกับคอมพิวเตอร์โดยตรง ( SN: 2/13/21, p. 24 ) ที่เกี่ยวข้องกับความเป็นส่วนตัวคือการรักษาความปลอดภัย — แฮ็กเกอร์สามารถเข้าถึงข้อมูลที่ล็อกอยู่ หรือรบกวนเครื่องกระตุ้นหัวใจและยานพาหนะที่เป็นอิสระ
ทำนายปัญหาตำรวจ
อัลกอริธึมการรักษาแบบคาดการณ์ล่วงหน้าที่ทดสอบในโอ๊คแลนด์ แคลิฟอร์เนีย จะกำหนดเป้าหมายคนผิวดำในอัตราประมาณสองเท่าของคนผิวขาว (ซ้าย) แม้ว่าข้อมูลจากช่วงเวลาเดียวกันในปี 2011 แสดงว่าการใช้ยาเทียบเท่ากันอย่างคร่าวๆ ในกลุ่มเชื้อชาติต่างๆ (ขวา) .บาคาร่า
