สัตว์ประหลาดอัจฉริยะที่คุณควรปล่อยให้กินคุณ

ลองนึกภาพสัตว์ประหลาดด้วยชุดคำที่ทรงพลังจนคุณต้องปล่อยให้มันกินคุณ อาจฟังดูเพ้อฝัน แต่ตอนนี้เราอาจอยู่ในเส้นทางที่จะประดิษฐ์สิ่งหนึ่งขึ้นมาได้ Richard Fisher เขียน
วันหนึ่งนักปรัชญากำลังเดินไปตามถนนเมื่อสัตว์ประหลาดกระโดดออกมา

แม้จะมีเขี้ยวที่น่ากลัว แต่ก็สุภาพและชัดเจนกว่าที่คิด

“ ฉันอยากกินคุณได้โปรด” สัตว์ประหลาดพูด

“ ขอโทษ แต่ฉันไม่อยากเป็นอาหารกลางวันของคุณ” ปราชญ์ตอบและเดินไปเรื่อย ๆ

“ เดี๋ยวก่อน” สัตว์ประหลาดกล่าวพร้อมกับชูนิ้วที่มีกรงเล็บ “ จะเกิดอะไรขึ้นถ้าฉันสามารถโต้แย้งคุณได้”

ด้วยการดำรงตำแหน่งและการพูดคุยของ TED ศาสตราจารย์ปรัชญาสงสัยเป็นอย่างมากว่าสัตว์ประหลาดตัวใดสามารถโน้มน้าวใจได้มากขนาดนี้ แต่ก็รู้สึกทึ่ง

“ ดำเนินการต่อ” นักปรัชญากล่าว

ไม่กี่นาทีต่อมาสัตว์ประหลาดก็กระทืบออกไปโดยมีศาสตราจารย์ที่ตายอยู่ในท้องของมัน

สัตว์ร้ายตามทฤษฎีนี้เรียกว่า“ ยูทิลิตี้มอนสเตอร์” เป็นการทดลองทางความคิดเชิงปรัชญาที่เสนอครั้งแรกในปี 1970 หากต้องการปฏิเสธข้อโต้แย้งและหยุดกินคุณขอให้คุณละทิ้งหลักการที่ถือกันอย่างกว้างขวางและใช้งานง่ายเกี่ยวกับวิธีการชั่งน้ำหนักที่ถูกและผิด

ถือได้ว่าไม่น่าเป็นไปได้มานานแล้วหากไม่เป็นไปไม่ได้สัตว์ประหลาดยูทิลิตี้มักถูกมองว่าเป็นจินตนาการที่เพ้อฝัน อย่างไรก็ตามตามที่นักวิจัยบางคนกล่าวว่าเราอาจอยู่ในเส้นทางที่จะสร้างขึ้นมาได้ แต่มันจะทำจากซิลิกอนแทนที่จะเป็นเนื้อและกรงเล็บ

ถ้าถูกต้องในไม่ช้าเราอาจมีทางเลือกที่ยากลำบากหากเราต้องการหลีกเลี่ยงการถูกกิน

เพื่อให้เข้าใจข้อโต้แย้งที่ร้ายแรงของสัตว์ประหลาดก่อนอื่นคุณต้องเข้าใจทฤษฎีทางจริยธรรมที่เสนอให้ท้าทาย: โรงเรียนแห่งความคิดที่โดดเด่นในปรัชญาทางศีลธรรมที่เรียกว่าลัทธิประโยชน์นิยม

คำว่าประโยชน์นิยมค่อนข้างแห้ง – บางคนก็ชี้ให้เห็นว่าการซักผ้า – แต่จริงๆแล้วมันเป็นวิธีคิดที่ลึกซึ้งเกี่ยวกับความสุขและการแสวงหาของมนุษย์ในการจัดลำดับความสำคัญของชีวิตที่ดีสำหรับคนส่วนใหญ่ ร่างโดยคร่าวๆผู้ใช้ประโยชน์ได้รับคำแนะนำจากหลักการที่ว่าการดูแลความเป็นอยู่ที่ดีขึ้นได้และเราควรตั้งเป้าหมายที่จะเพิ่มผลประโยชน์โดยรวมในโลกให้มากที่สุด สำหรับผู้สนับสนุนหลายคนลัทธิประโยชน์นิยมเสนอกฎง่ายๆในการตัดสินใจว่าจะใช้ชีวิตอย่างไรบริจาคเพื่อการกุศลและเลือกอาชีพ

แต่ในขณะที่หลักการเพิ่มคุณภาพชีวิตที่ดีและความสุขอาจดูเหมือนถูกต้องตามสัญชาตญาณ แต่ก็มีบางกรณีที่รุนแรงที่ให้ความรู้สึกน้อยลง

ผู้ใช้ประโยชน์ได้รับการชี้นำโดยหลักการที่ว่าเราควรตั้งเป้าหมายที่จะเพิ่มความเป็นอยู่ที่ดีโดยรวมในโลก

ข้อคัดค้านประการหนึ่งต่อกรอบพื้นฐานที่สุดของลัทธิประโยชน์นิยมคือดูเหมือนว่าจะอนุญาตให้มีการกระทำที่เกือบทุกคนยอมรับว่าผิดเช่นการฆ่าหรือสนับสนุนความทุกข์โดยเจตนา ตัวอย่างเช่นในเรื่องสั้นของ Ursula Le Guin นักเขียนนิยายวิทยาศาสตร์เรื่อง The Ones Who Walk Away from Omelas ผู้อ่านจะได้รับการแนะนำให้รู้จักกับเมืองที่เจริญรุ่งเรืองและเต็มไปด้วยความสุขซึ่งการดำรงอยู่อันรุ่งเรืองล้วนขึ้นอยู่กับความทุกข์ยากอย่างแสนสาหัสของเด็กคนเดียวที่อาศัยอยู่ในคุกใต้ดิน ถ้าใครจะเพิ่มความสุขโดยรวมของเมืองก็จะยิ่งใหญ่กว่าความทุกข์ทรมานของเด็ก แต่ตามที่ Le Guin เขียนผู้อยู่อาศัยบางคนไม่สามารถบอกความคิดเกี่ยวกับเด็กที่เสียสละได้ไม่ว่าจะสร้างความสุขโดยรวมมากแค่ไหนก็ตามและก็“ เดินออกไป” จากเมือง

มีความท้าทายอื่น ๆ อีกมากมายในการใช้ประโยชน์ แต่สิ่งที่สำคัญสำหรับเราเป็นของสัตว์ประหลาดที่หิวโหยของเรา

ย้อนกลับไปบนถนนเมื่อนักปรัชญาที่ใช้ประโยชน์ได้ขอให้นำเสนอกรณีที่จะถูกกินสัตว์ประหลาดอธิบายว่ามันมีวิธีพิเศษในการสัมผัสกับความเป็นอยู่ที่ดี

“ ความคิดเรื่องความสุขของคุณเป็นเพียงส่วนหนึ่งของสิ่งที่ฉันรู้สึกได้” มันกล่าว “ ฉันแตกต่างกับคุณเป็นมนุษย์เหมือนคุณกับมด ถ้าฉันกินคุณมันจะทำให้ฉันมีความเป็นอยู่ที่ดีและพึงพอใจมากกว่ามนุษย์ทุกคนที่เคยมีชีวิตอยู่”

ปราชญ์ลังเลในขณะที่พยายามนึกถึงการโต้เถียง “ เอาละมันใช้ได้แน่นอน … ” แต่หมดเวลาแล้วศาสตราจารย์กำลังทานอาหารกลางวัน

แน่นอนว่ามีการตอบสนองต่อสัตว์ประหลาด นักปรัชญาที่เชื่อว่ามีจรรยาบรรณบางอย่างที่ไม่สามารถทำลายได้จะมีปัญหาน้อยกว่ามาก การฆ่าคนเพื่อเป็นอาหารนั้นผิดเธออาจจะบอกว่าฉันไม่สนใจหรอกว่าเธอจะกินฉันมีความสุขแค่ไหน

การตอบสนองที่เป็นประโยชน์ต่อสถานการณ์สัตว์ประหลาดคือพวกเขาไม่เคยพบสิ่งมีชีวิตเช่นนี้มาก่อน – มันไม่สมจริงมากจนสามารถแยกออกได้เมื่อทำการตัดสินใจทางศีลธรรมในโลกแห่งความเป็นจริง เป็นเรื่องจริงที่ยากที่จะจินตนาการถึงสิ่งมีชีวิตเดียวที่สามารถสัมผัสกับความเป็นอยู่ที่ดีได้มากกว่ามนุษย์ทุกคนที่มีชีวิตและตาย – มันไกลเกินจินตนาการของสมองของสัตว์เลี้ยงลูกด้วยนมของเรา

แต่ตอนนี้มีการเปลี่ยนแปลงใหม่ในการทดลองทางความคิด Nick Bostrom และ Carl Shulman จาก University of Oxford ได้เสนอวิธีที่โดยหลักการแล้วสัตว์ประหลาดยูทิลิตี้สามารถเกิดขึ้นได้ อาจเป็นอนาคตอันไกลโพ้น แต่ในห้องปฏิบัติการและ บริษัท ต่างๆทั่วโลกในขณะนี้พวกเขาเชื่อว่าเราอาจดำเนินการไปในทิศทางนั้นแล้ว

Bostrom เป็นหนึ่งในผู้เสนอแนวคิดหลักทางวิชาการที่ว่าเราควรเตรียมพร้อมสำหรับการมาถึงของเครื่องจักรอัจฉริยะที่ชาญฉลาดอย่างกะทันหันฉลาดกว่าจิตใจของมนุษย์ที่ดีที่สุดและสามารถยกระดับประเด็นขัดแย้งทางจริยธรรมใหม่ ๆ ให้กับมนุษยชาติได้ ในบทความล่าสุดที่โพสต์บนเว็บไซต์ของเขาเขาและ Shulman เสนอสถานการณ์ที่หนึ่งในผู้มีความคิดดิจิทัลเหล่านี้อาจกลายเป็น “ผู้มีความเป็นอยู่ที่ดี” (คำที่พวกเขาชอบเรียกว่า “สัตว์ประหลาด” เพราะพวกเขาเชื่อว่าควรอธิบายจิตใจเช่นนั้นด้วย ภาษาที่ไม่ดูถูก)

ณ จุดนี้เป็นเรื่องที่ควรค่าแก่การยอมรับว่าจิตใจดิจิทัลที่ชาญฉลาดอาจฟังดูไม่สมจริงเหมือนสัตว์ประหลาดยูทิลิตี้ทางทฤษฎี หากคุณไม่มี“ ยีนไซไฟ” ทั้งหมดนี้อาจดูเหมือนเป็นเรื่องที่น่ากลัว แม้ว่าจะไม่จำเป็นต้องเป็นไปได้ในระยะใกล้ แต่นักวิจัยที่จริงจังหลายคนเชื่อว่า AI ที่จับคู่อย่างรวดเร็วและเกินสติปัญญาของเราเองนั้นเป็นสิ่งที่เป็นไปไม่ได้ และเมื่อมันเกิดขึ้นมันจะเกิดขึ้นอย่างรวดเร็วสร้างประเด็นขัดแย้งทางจริยธรรมและอัตถิภาวนิยมขึ้นใหม่ซึ่งพวกเขากล่าวว่าเป็นเรื่องรอบคอบที่จะเริ่มคิดถึงตอนนี้

“ เครื่องจักรที่เรากำลังสร้างนั้นซับซ้อนขึ้นเรื่อย ๆ ” Bostrom กล่าว “ และเราสามารถเห็นวิถีที่นั่นได้อย่างชัดเจน แม้แต่การตั้งประเด็นเรื่องสติปัญญาขั้นสูงหรือระดับมนุษย์อย่างน้อยสิ่งที่เริ่มแข่งขันกับสัตว์ที่มีระดับความซับซ้อนต่าง ๆ ในแง่ของความรู้ความเข้าใจก็มีอยู่แล้วหรืออยู่บนขอบฟ้าทันที”

ดังนั้นหากเรายอมรับว่ามีความเป็นไปได้ที่ผู้มีความคิดดิจิทัลที่ซับซ้อนจะปรากฏตัวขึ้นในบางช่วงเวลาในอนาคตสิ่งเหล่านี้อาจมีคุณสมบัติความต้องการและประสบการณ์ทางจิตใจที่แตกต่างกันโดยสิ้นเชิง และนั่นคือจุดเริ่มต้นของ Bostrom และ Shulman ที่หน้าไวท์บอร์ดในอ็อกซ์ฟอร์ดซึ่งเป็นส่วนหนึ่งของโครงการขนาดใหญ่เพื่อร่างความเป็นไปได้ทั้งหมดที่จิตใจดิจิทัลอาจมีลักษณะทางจิตวิทยาและสรีรวิทยาที่สะท้อนหรือเกินตัวของเราเอง – และบางอย่างที่เราทำได้ ‘ แม้จะจินตนาการ

สิ่งหนึ่งที่พวกเขาระบุระหว่างแบบฝึกหัดนี้คือจิตใจดิจิทัลอาจมีศักยภาพในการใช้ทรัพยากรทางวัตถุอย่างมีประสิทธิภาพมากกว่ามนุษย์เพื่อบรรลุความสุข กล่าวอีกนัยหนึ่งการบรรลุความเป็นอยู่ที่ดีอาจทำได้ง่ายกว่าและมีค่าใช้จ่ายน้อยกว่าสำหรับพวกเขาในแง่ของพลังงานดังนั้นพวกเขาจึงสามารถสัมผัสประสบการณ์นี้ได้มากขึ้น มุมมองของความคิดดิจิทัลเกี่ยวกับเวลาอาจแตกต่างกันได้เช่นกันการคิดเร็วกว่าที่สมองของเราทำได้ซึ่งอาจหมายความว่าสามารถสัมผัสกับความสุขส่วนตัวได้มากขึ้นภายในปีที่กำหนดมากกว่าที่เราเคยทำได้ พวกเขาไม่ต้องการการนอนหลับดังนั้นสำหรับพวกเขาแล้วมันอาจมีความสุขตลอดทั้งคืนก็ได้เช่นกัน มนุษย์ไม่สามารถคัดลอกตัวเองได้เช่นกันในขณะที่ซิลิคอนมีความเป็นไปได้ที่แปลกประหลาดของสิ่งมีชีวิตดิจิทัลหลายเวอร์ชันที่ให้ความรู้สึกเป็นอยู่ที่ดีโดยรวม

แม้แต่มนุษย์ที่พึงพอใจและสนุกสนานที่สุดที่เคยมีชีวิตอยู่ก็อาจไม่ได้นั่งอยู่ที่จุดสุดยอดของความเป็นอยู่ที่ดีเท่าที่จะเป็นไปได้

นี่ไม่ใช่เส้นทางเดียวไปสู่สถานะผู้รับผลประโยชน์ขั้นสูงเช่นกัน นอกจากนี้ยังไม่มีการปรับตัวตามวิวัฒนาการของชีวิตสังเคราะห์ซึ่ง จำกัด ความเพลิดเพลินสำหรับคุณและฉัน “ มีเหตุผลที่จะคิดว่าจิตใจที่ได้รับการออกแบบมาสามารถเพลิดเพลินกับระยะเวลาและความสุขที่เข้มข้นมากขึ้น” เขียน Bostrom และ Shulman ในทางตรงกันข้ามในมนุษย์ “ความสุขในการทำอาหารถูกควบคุมโดยความหิวความใคร่ทางเพศ” และในที่สุดความเพลิดเพลินของเราก็จะลดลงด้วยความเบื่อหน่ายหรือการทำให้เป็นปกติ คนใจดิจิทัลจะไม่มีอุปสรรคเช่นนี้

ประเด็นสำคัญคือแม้แต่มนุษย์ที่มีความสุขสนุกสนานและพึงพอใจที่สุดที่เคยมีชีวิตอยู่ก็อาจไม่ได้นั่งอยู่ที่จุดสุดยอดของความเป็นอยู่ที่ดีเท่าที่จะเป็นไปได้ – ชีวิตสังเคราะห์อาจเกินกว่านั้นได้ และถ้าเป็นเช่นนั้นอาจสร้างปัญหาให้กับเราได้เมื่อเครื่องจักรเหล่านี้เข้ามา

อาจเป็นข้อโต้แย้งในการหลีกเลี่ยงการสร้างมันตั้งแต่แรก หากมีคนสมัครรับมุมมองที่ว่าพวกเขาควรได้รับสิทธิ (ซึ่งฉันทราบดีว่าต้องให้คุณเปิดยีนไซไฟของคุณอีกครั้ง) พวกเขาอาจมีกรณีที่เป็นผู้รับผลประโยชน์จากทรัพยากรและพลังงาน แต่เพียงผู้เดียวเมื่อสิ่งเหล่านั้นหายาก เพราะคุณภาพและปริมาณความเป็นอยู่ของพวกเขาจะมีมากกว่าเราอย่างมหาศาล หากการตายของเราหมายถึงความสำเร็จของพวกเขาดังนั้นโดยเหตุผลพื้นฐานที่เป็นประโยชน์ที่เราควรเพิ่มความเป็นอยู่ที่ดีที่สุดในโลกพวกเขาจะมีข้อโต้แย้งในการกินเราในเชิงเปรียบเทียบ

แน่นอนว่ามีเพียงการตีความที่ไม่เป็นประโยชน์ต่อประโยชน์สูงสุดเท่านั้นที่กล่าวว่าเรามีหน้าที่ต้องเสียสละตัวเองเพื่อประโยชน์สุขของผู้อื่น นั่นจะทำให้เรากลายเป็นสิ่งที่เรียกว่า“ ปั๊มความสุข” อีกหนึ่งการทดลองทางความคิดเชิงปรัชญาที่ถ่ายโดยตัวละคร Doug Forcett ในรายการทีวี The Good Place Forcett ใช้เวลาทั้งชีวิตทำทุกอย่างเท่าที่ทำได้เพื่อทำให้คนอื่นพอใจเช่นปล่อยให้วัยรุ่นกลั่นแกล้งเขาอย่างไม่ลดละทำให้ตัวเองมีความทุกข์อยู่ในขั้นตอนนี้

ถึงกระนั้นก็อาจมีความซับซ้อนทางจริยธรรมอย่างน้อยก็พูดได้ อาจเรียกร้องให้เราบอกว่ามนุษย์มีสิทธิพิเศษที่ยิ่งใหญ่กว่าจิตใจสังเคราะห์ใด ๆ ไม่ว่ามันจะมีสติฉลาดและก้าวหน้าเพียงใด Bostrom และ Shulman ค่อนข้างมีแนวความคิดที่ยากต่อทัศนคติดังกล่าวโดยมีความคล้ายคลึงกับอำนาจสูงสุดทางเชื้อชาติในประวัติศาสตร์หรือความโหดร้ายของสัตว์ซึ่งทั้งสองอย่างนี้โดยทั่วไปแล้วถูกเกลียดชังว่าผิดศีลธรรม โดยส่วนตัวแล้วแนวเหล่านั้นขยายความงมงายของตัวเองจนเกินขอบเขต แต่บางทีนั่นอาจเป็นเพียงสมองของสัตว์เลี้ยงลูกด้วยนมของฉัน

เมื่อฉันพูดถึงแนวคิดเหล่านี้กับนักปรัชญาโทมัสเม็ตซิงเกอร์แห่งมหาวิทยาลัยโยฮันเนสกูเทนเบิร์กแห่งไมนซ์ในเยอรมนีเขาได้หยิบยกประเด็นที่เกี่ยวข้องที่ฉันไม่ได้พิจารณา ถ้าเราตั้งใจสร้างขึ้นแทนจิตใจดิจิตอลสติที่มีประสิทธิภาพอย่างไม่น่าเชื่อที่ประสบความทุกข์ ? จะเกิดอะไรขึ้นถ้าเราสร้างความเป็นอยู่เชิงลบในหมู่สิ่งมีชีวิตสังเคราะห์ในระดับลึกที่ไม่เคยมีมาก่อนในประวัติศาสตร์?

“ มันอาจจะแตกต่างจากความทุกข์ทรมานทางชีวภาพเพราะพวกมันมีเซ็นเซอร์ตัวรับการแสดงร่างกายที่แตกต่างกันรูปแบบข้อมูลภายใน” Metzinger อธิบาย แต่ถ้าคุณยอมรับว่าสติสัมปชัญญะอาจไม่ได้มีลักษณะเฉพาะของเซลล์ทางชีววิทยาประสบการณ์ส่วนตัวที่คล้ายกับความเจ็บปวดก็อาจเกิดขึ้นได้เช่นกันไม่ว่าพวกเขาจะแปลกแยกกับเราอย่างไร “ ถ้าเรามีบุคคลที่ไม่ใช่มนุษย์ที่มีความสามารถในการใช้เหตุผลเชิงสัญลักษณ์ระดับสูงและมีความสามารถทางภาษาและสามารถระบุศักดิ์ศรีของตัวเองได้นั่นจะเป็นสิ่งที่เราไม่อาจละเลยได้อีกต่อไป”

Metzinger ยอมรับว่าปัญหาดังกล่าวยังไม่สูงนักในรายการลำดับความสำคัญของผู้กำหนดนโยบายและหน่วยงานกำกับดูแลในขณะนี้ (และเขาควรจะรู้เพราะเขากำลังให้คำปรึกษาแก่คณะกรรมาธิการยุโรปเมื่อเร็ว ๆ นี้) แต่ความเป็นอยู่ที่ดีของจิตใจที่ชาญฉลาดและดิจิทัลไม่ควรถูกมองข้ามไปเขาให้เหตุผล “ ผู้คนจำนวนมากที่ต้องรับผิดชอบทางจริยธรรมในการสร้างจิตสำนึกของเครื่องจักรอาจมีชีวิตอยู่แล้วในปัจจุบัน มันสร้างความรับผิดชอบทางประวัติศาสตร์” เขากล่าว

ดังนั้นเมื่อเราใกล้ชิดกับความเป็นไปได้ของจิตใจสังเคราะห์ที่ชาญฉลาดมากขึ้นเราจะต้องชั่งน้ำหนักว่าเราออกแบบอย่างไรสิ่งที่เราทำและไม่อนุญาตให้ทำและที่สำคัญคือจะทำอย่างไรให้แน่ใจว่าความต้องการของพวกเขาสอดคล้องกับของเราเอง . จะได้รับอนุญาตทางศีลธรรมหรือไม่ที่จะสร้างความคิดเหล่านี้ให้รับใช้เราหรือ“ รู้สึก” ในบางวิธี? เราควรแบ่งปันทรัพยากรของเรากับพวกเขามากแค่ไหน? และพวกเขาควรได้รับสถานะทางศีลธรรมที่ไม่เลือกปฏิบัติเช่นเดียวกับมนุษย์หรือไม่?

Bostrom บอกฉันว่าเป้าหมายที่กว้างขึ้นคือการระบุ“ เส้นทางที่จะช่วยให้จิตใจดิจิทัลและจิตใจทางชีวภาพสามารถอยู่ร่วมกันได้ในรูปแบบที่เป็นประโยชน์ร่วมกันซึ่งรูปแบบที่แตกต่างกันทั้งหมดเหล่านี้สามารถเติบโตและเติบโตได้” การมาถึงของจิตใจดิจิทัลไม่จำเป็นต้องเป็นหายนะที่กำหนดโดยความขัดแย้งเขาให้เหตุผล “ ถ้าเราจะแนะนำพลเมืองใหม่ ๆ เหล่านี้เข้าสู่โลกกรอบทางจริยธรรมและการเมืองจะเป็นอย่างไรเพื่อให้สามารถอยู่ร่วมกันอย่างมีความสุขได้”

ท้ายที่สุดถ้าเราคิดไปไกลจริงๆในอนาคตในที่สุดความคิดดิจิทัลก็อาจปรากฏขึ้นซึ่งมีความรู้แจ้งทางจริยธรรมมากกว่าที่เป็นอยู่ “ การเคลื่อนไหวที่เด็ดขาดจริง ๆ อาจเกิดขึ้นได้หากเครื่องจักรเริ่มกำหนดพันธะทางศีลธรรมให้กับตัวเองโดยที่เราไม่ได้บังคับให้ทำ” เมทซิงเกอร์กล่าว นั่นอาจเป็นการเริ่มต้นบนเส้นทางสู่ความเข้าใจที่แตกต่างและลึกซึ้งยิ่งขึ้นเกี่ยวกับความหมายที่ดี และถ้าเป็นเช่นนั้นสัตว์ประหลาดสมมุติของเราอาจไม่เลือกที่จะกินนักปรัชญาที่มีศีลธรรม แต่ในทางสติปัญญามันสามารถกินอาหารกลางวันได้อย่างง่ายดาย

Related posts