ปัญหาที่แท้จริงของการจัดตำแหน่ง AI

“ปัญหาการจัดตำแหน่ง” ของ AI ตั้งสมมติฐานว่าเมื่อระบบ AI มีความฉลาดมากขึ้น ก็จะยิ่งปรับเป้าหมายให้สอดคล้องกับเป้าหมายของนักพัฒนาได้ยากขึ้น ในทางทฤษฎี ระบบ AI อาจ “ควบคุมไม่ได้” โดยคิดค้นกลยุทธ์ที่ไม่พึงประสงค์และคาดเดาไม่ได้เพื่อบรรลุวัตถุประสงค์

The ทฤษฎีการผลิตคลิปหนีบกระดาษให้ได้มากที่สุด(หน้าต่างใหม่) คือการทดลองทางความคิดที่สำรวจแนวคิดนี้: หาก AI อัจฉริยะขั้นสูงได้รับมอบหมายให้ทำหน้าที่เพียงอย่างเดียวคือการสร้างคลิปหนีบกระดาษ มันก็อาจจะควบคุมทรัพยากรของโลกเพื่อบรรลุเป้าหมายให้ได้ไม่ว่าจะต้องแลกด้วยอะไรก็ตาม โดยเปลี่ยนทุกอย่างให้กลายเป็นคลิปหนีบกระดาษ ในที่สุดมันอาจตระหนักได้ว่ามนุษย์ที่พยายามหยุดยั้ง AI นั้นเป็นสิ่งรบกวนสมาธิและกำจัดเราทิ้ง ซึ่งเห็นได้ชัดว่าเป้าหมายของ AI และผลประโยชน์ของมนุษย์ไม่สอดคล้องกัน

แม้ว่าปัญหายอดฮิตอย่างคลิปหนีบกระดาษจะดูเป็นเรื่องเหลือเชื่อ แต่ก็กลายเป็นจุดสนใจในวัฒนธรรมป๊อปสำหรับ AI ในชีวิตจริง ข้อจำกัดและกฎเกณฑ์ต่างๆ จะคอยป้องกันไม่ให้ระบบทำงานเกินขอบเขตวัตถุประสงค์ที่ตั้งไว้ แต่ผู้ก่อตั้งและซีอีโอของยักษ์ใหญ่ด้านเทคโนโลยีหลายรายใช้สมมติฐานนี้เพื่อสร้างกระแสให้กับโมเดลภาษาขนาดใหญ่ (LLMs) ของตน แชทบอทมีพลังในการทำให้มนุษยชาติสูญพันธุ์ได้จริงหรือ? ไม่เลย แต่มันทำให้ฟังดูน่าประทับใจ และที่สำคัญกว่านั้นคือ มันช่วยปกปิดปัญหาที่แท้จริงของการจัดตำแหน่ง AI ที่ส่งผลเสียต่อเราอยู่ในขณะนี้ นั่นคือ LLM ของยักษ์ใหญ่ด้านเทคโนโลยีกำลังบุกรุกความเป็นส่วนตัว ขโมยข้อมูล และบั่นทอนมูลค่าของระบบเศรษฐกิจข้อมูลข่าวสาร สิ่งนี้เป็นทั้งกลยุทธ์การขายและการเบี่ยงเบนความสนใจ ซึ่งออกแบบมาเพื่อให้เราเฝ้ามองแต่อนาคต แทนที่จะมองดูการควบคุมที่เรากำลังสูญเสียไปในปัจจุบัน

เรากำลังมุ่งหน้าสู่อนาคตที่เลวร้ายหรือไม่

เมื่อผู้ก่อตั้งแถลงการณ์อย่างกว้างๆ และเป็นการคาดเดาเกี่ยวกับสิ่งที่ผลิตภัณฑ์ “อาจจะ” ทำได้ นี่เป็นวิธีการหลักในการสร้างโอกาสทางธุรกิจและสร้างมูลค่าให้แก่ผู้ถือหุ้น LLM และ AI เชิงสร้างสรรค์เป็นผลิตภัณฑ์ทางธุรกิจ การทำให้เชื่อว่าเครื่องมือเหล่านี้เป็นการปฏิวัตินั้นเป็นไปเพื่อผลประโยชน์ของเจ้าของเครื่องมือ

สำนักข่าวต่างๆ กระตือรือร้นที่จะนำเสนอเรื่องราวที่น่าตื่นเต้น เช่น ศักยภาพของเครื่องมือ AI ในการช่วยผู้ใช้ สร้างอาวุธชีวภาพ(หน้าต่างใหม่) หรือ โกหกนักพัฒนา(หน้าต่างใหม่) ราวกับว่า AI เชิงสร้างสรรค์มีความคิดเป็นของตัวเอง (ซึ่งไม่มี) พาดหัวข่าวเกี่ยวกับความคิดเห็นที่รุนแรงหรือไม่มีมูลความจริงนั้นดึงดูดคลิกได้ง่าย แต่มุมมองดังกล่าวไม่ได้สะท้อนถึงเทคโนโลยี AI ที่มีอยู่ในปัจจุบันได้อย่างถูกต้อง

ในทางกลับกัน LLM เป็นเพียงเครื่องมือทำนายคำเท่านั้น โดยเป็นโปรแกรมคอมพิวเตอร์ที่ย่อยข้อความจำนวนมหาศาล เพื่อ “เรียนรู้” รูปแบบของภาษาเขียนของมนุษย์ จากนั้นจึงสร้างการตอบสนองตามหลักความน่าจะเป็นต่อการป้อนข้อมูลของผู้ใช้ ไม่มีความคิดเป็นของตนเอง และไม่เข้าใจภาษาด้วยซ้ำ ในความเป็นจริง ต้องแปลงคำเป็นตัวเลขก่อนจึงจะสามารถประมวลผลข้อมูลได้ ข้อจำกัดของ LLM ได้รับการบันทึกไว้อย่างดีโดย Gary Marcus(หน้าต่างใหม่) และนักวิจัยอีกหลายคน

เครื่องมือใหม่สำหรับลัทธิทุนนิยมการสอดส่อง

LLM จะไม่ทำให้เกิดวันสิ้นโลก แต่ทำสิ่งอื่นได้ค่อนข้างดี นั่นคือการรวบรวมข้อมูลที่มีความละเอียดอ่อนอย่างยิ่ง นั่นคือสาเหตุที่ LLM เป็นขุมทองข้อมูลสำหรับธุรกิจ และเป็นเป้าหมายการทำเครื่องหมายที่น่าดึงดูดสำหรับอาชญากร

LLM ขับเคลื่อนแชตบอต เช่น ChatGPT, Copilot, Claude และ Grok ซึ่งทำงานเหมือนเครื่องมือค้นหา โดยผิวเผินแล้ว สามารถใช้แชตบอตเหล่านี้สำหรับสิ่งใดก็ได้ที่ต้องการ เช่น ช่วยสร้างรายการซื้อของ จัดระเบียบปฏิทิน เขียนอีเมล หรือเขียนรหัส แชตบอตเหล่านี้เปรียบเสมือนผู้ช่วยส่วนตัว ครู คนสนิท หรืออะไรก็ตามตามที่ต้องการให้เป็น

ผู้คนหลายร้อยล้านคนทั่วโลกกำลังแชร์คำถาม ไอเดีย ความคิด และความลับที่ลึกซึ้งที่สุดกับแชตบอต โดยได้รับการสนับสนุนให้ทำเช่นนั้นจากบริษัทที่ดำเนินการอยู่: Sam Altman ซีอีโอของ OpenAI ระบุเมื่อเร็วๆ นี้(หน้าต่างใหม่) ว่า คนรุ่น Gen Z “ไม่ได้ตัดสินใจเรื่องสำคัญในชีวิตเลยหากไม่ได้ถาม ChatGPT ว่าควรทำอย่างไร” การส่งเสริมและสนับสนุนความไว้วางใจและการพึ่งพาแชตบอตที่มุ่งหวังผลกำไรและไม่น่าเชื่อถือในระดับนี้ถือเป็นเรื่องที่ไม่รับผิดชอบอย่างยิ่ง Big Tech ต้องการให้ดำเนินชีวิตและจินตนาการผ่านบริการของตน เพราะจะทำให้มีส่วนร่วมในการกำหนดวิธีใช้จ่ายเงิน สิ่งที่ทำ และสิ่งที่คิด

ธุรกิจที่อยู่เบื้องหลัง LLM ยังขายผลิตภัณฑ์เป็นโซลูชันเพิ่มประสิทธิภาพการทำงานสำหรับรัฐบาลและธุรกิจต่างๆ โดยสัญญาว่าจะช่วยประหยัดเวลาและแรงงานสำหรับผู้ใช้ ในขณะเดียวกันก็เพิ่มโอกาสใหม่ๆ ในการถูกสอดส่อง ในสหราชอาณาจักร ระบบ AI ของกระทรวงยุติธรรม “คาดการณ์” ความเสี่ยงในการทำผิดซ้ำ(หน้าต่างใหม่) ของผู้ต้องขัง เจ้าหน้าที่ตำรวจกำลัง ใช้แชตบอต(หน้าต่างใหม่) เพื่อเขียนรายงานอาชญากรรม การรวมอำนาจรัฐเข้ากับ อัลกอริทึมที่มีอคติ(หน้าต่างใหม่) นั้นเป็นอันตรายและตอกย้ำอคติที่มีอยู่เดิม

การหาประโยชน์จากข้อมูลเพื่อวัตถุประสงค์ในการฝึกอบรม

LLM ทำงานบนโมเดล AI ที่ได้รับการฝึกโดยชุดข้อมูลจำนวนมหาศาล และเพื่อปรับปรุงบริการ จึงต้องการข้อมูลมากขึ้นเรื่อยๆ น่าเสียดายที่ข้อมูลนี้มาจากแชต รูปภาพ และการค้นหาทางเว็บ บริษัทต่างๆ จะไม่ขออนุญาตหรือล้างความไม่ชัดเจนเสมอไปเกี่ยวกับสิ่งที่รวบรวมไป

ตัวอย่างเช่น Meta AI ต้องการ สแกน (หน้าต่างใหม่)รูปภาพ(หน้าต่างใหม่) ในคลังภาพที่ยังไม่ได้อัปโหลดไปยังแพลตฟอร์มเพื่อวิเคราะห์ข้อมูลใบหน้า ผู้ใช้จำนวนมากรู้สึกกังวลกับประกาศที่ว่า Copilot AI ของ Microsoft(หน้าต่างใหม่) จะถ่ายภาพหน้าจอของอุปกรณ์ทุกๆ สองสามนาที รูปภาพ ข้อความถึงเพื่อนและคนที่รัก ตลอดจนความคิดที่เป็นส่วนตัวที่สุดล้วนเป็นจุดข้อมูลอันมีค่าที่บริษัทเหล่านั้นต้องการ

เมื่อดูที่ นโยบายความเป็นส่วนตัว(หน้าต่างใหม่) ของ OpenAI จะเห็นว่า ChatGPT จะค้นหาและจัดเก็บ:

• ข้อมูลระบุตัวตน เช่น ชื่อ รายละเอียดผู้ติดต่อ ที่อยู่ IP และข้อมูลระบุตัวตนของอุปกรณ์อื่นๆ
• ข้อมูลเชิงพาณิชย์ เช่น ประวัติการทำธุรกรรม
• ข้อมูลกิจกรรมบนเครือข่าย เช่น เนื้อหาและวิธีการโต้ตอบกับ ChatGPT
• ตำแหน่งทั่วไปที่ใช้เข้าถึง ChatGPT

ข้อมูลนี้อาจถูกเปิดเผยต่อรัฐบาล ผู้ขาย พันธมิตร ผู้ให้บริการ และบุคคลที่สามอื่นๆ

โดยพื้นฐานแล้ว LLM จะทำความรู้จักกับผู้ใช้ เช่นเดียวกับเครื่องมือค้นหาที่จะทำความเข้าใจนิสัย การตั้งค่าส่วนตัว ความสนใจ และทุกแงุมมที่สามารถรวบรวมได้จากพฤกติกรรม Big Tech จะให้ความสำคัญกับการค้นหาวิธีการใหม่ๆ เพื่อรับข้อมูลส่วนบุคคลเสมอเพราะสามารถทำกำไรได้ และหวังว่าจะไม่มีใครสังเกตเห็น

ลองนึกถึงเทรนด์ที่แพร่หลายในโซเชียลมีเดียในช่วงไม่กี่ปีที่ผ่านมา: แอนิเมชันสไตล์สตูดิโอจิบลิ(หน้าต่างใหม่) แบบกำหนดเอง เลียนแบบสไตล์อันเป็นเอกลักษณ์ของ ฮายาโอะ มิยาซากิ โดยที่เจ้าตัวไม่ยินยอม และ ตุ๊กตากล่อง AI แบบกำหนดเอง(หน้าต่างใหม่) ที่ได้รับแรงบันดาลใจจากของเล่นคลาสสิกอย่างบาร์บี้ สร้างมุมมองทางภาพเกี่ยวกับรสนิยมส่วนตัวของผู้คน เทรนด์โซเชียลมีเดียนี้อาจดูเหมือนเรื่องสนุกที่ไม่มีพิษมีภัย แต่เครื่องมือ AI ที่ใช้สร้างรูปภาพเหล่านี้สามารถเก็บเกี่ยวรูปภาพและข้อมูลเกี่ยวกับผู้คน ซึ่งบริษัทหลักสามารถนำไปใช้เพื่อวัตถุประสงค์ในการโฆษณาและอาจขายให้แก่บุคคลที่สาม นี่เป็นเพียงสองตัวอย่างจากหลายๆ ตัวอย่างที่ Big Tech แอบรวบรวมข้อมูลส่วนบุคคลอย่างเงียบๆ เพื่อแลกกับการมีส่วนร่วมในเทรนด์ที่เกิดขึ้นชั่วครู่

มีโซลูชันที่ดีกว่าสำหรับ LLM

หลังจากได้อ่านแล้วเกี่ยวกับความเสี่ยงทั้งหมดนี้ อาจคิดว่า LLM นั้นอันตรายโดยเนื้อแท้ แต่นั่นไม่ใช่เรื่องจริงเลย บริษัท Big Tech ตั้งใจสร้างระบบ AI ให้รุกรานและหิวกระหายข้อมูล การสร้าง AI ที่ปกป้องความเป็นส่วนตัวของผู้คนและรักษาความปลอดภัยของข้อมูลเป็นค่าเริ่มต้นนั้นเป็นไปได้ ซึ่งทราบดีเพราะได้ทำสำเร็จแล้วกับ Lumo ผู้ช่วย AI(หน้าต่างใหม่) ที่ให้ความสำคัญกับความเป็นส่วนตัวเป็นอันดับแรก

นี่คือวิธีที่ Lumo แก้ปัญหาการจัดตำแหน่ง AI ที่แท้จริง:

• Lumo จะไม่เก็บรักษาบันทึกของบทสนทนา แชตทุกรายการจะถูกลบออกจากเซิร์ฟเวอร์ทันทีที่โมเดลประมวลผลคำถามและการตอบสนองเสร็จสิ้น
• ประวัติการแชตจะถูกจัดเก็บด้วยการเข้ารหัสลับแบบเข้าถึงเป็นศูนย์ เมื่อล็อกข้อมูลด้วยคีย์ลับ Proton จะไม่มีวันเข้าถึงข้อมูลได้ จึงไม่สามารถแชร์หรือทำให้เกิดการรั่วไหลของข้อมูลโดยอุบัติเหตุได้
• ไม่มีการฝึกฝนโมเดลด้วยแชต การใช้บทสนทนาเพื่อฝึกโมเดล AI ทำให้ข้อมูลมีความเสี่ยงที่จะปรากฏขึ้นอีกครั้งในผลลัพธ์ในอนาคต บทสนทนากับ Lumo จะเป็นเรื่องส่วนบุคคลเท่านั้น
• Lumo เป็นโอเพนซอร์สและใช้เฉพาะโมเดลโอเพนซอร์สเท่านั้น เนื่องจากรหัสต้นฉบับเป็นสาธารณะ ทุกคนจึงสามารถตรวจสอบได้ว่าแอปทำงานตรงตามที่กล่าวอ้างทุกประการ
• ตั้งอยู่ในเขตอำนาจศาลที่เคารพความเป็นส่วนตัว ต่างจาก AI ของ Big Tech ในสหรัฐฯ ที่เป็นหัวเรื่องของกฎหมายการสอดส่องดูแลที่ล่วงล้ำ Lumo ตั้งอยู่ในยุโรปและได้รับการคุ้มครองโดยกฎหมายความเป็นส่วนตัวที่เข้มงวด

ในทุกระดับ Lumo ได้รับการออกแบบมาเพื่อให้ประโยชน์ใช้สอยแบบเดียวกับ LLM อื่นๆ โดยไม่มีผลกระทบภายนอกที่มีความเสี่ยง Big Tech สามารถสร้าง AI ในลักษณะเดียวกันได้ แต่เลือกที่จะไม่ทำเช่นนั้นเนื่องจากข้อมูลคือสกุลเงินของบริษัทเหล่านั้น

การปรับแต่ง AI เป็นภัยคุกคามจริงหรือไม่

ความจริงนั้นน่าตื่นเต้นน้อยกว่าที่บรรดา CEO ของ Big Tech อยากให้เชื่อ มีความเป็นไปได้น้อยที่ AI จะช่วยให้ผู้คนสามารถสร้างอาวุธชีวภาพหรือใช้ทรัพยากรทั้งหมดของโลกไปกับการผลิตคลิปหนีบกระดาษ แต่มีความเป็นไปได้มากกว่าที่ AI จะปฏิบัติตามคำสั่งที่ Big Tech ปฏิบัติตามอยู่แล้ว นั่นคือการขโมยและหาประโยชน์จากข้อมูลส่วนตัว

อย่าไปเชื่อกระแสเกินจริงเกี่ยวกับการปรับแต่ง AI นั่นไม่ใช่ภัยคุกคามที่ควรให้ความสำคัญ การสอดส่องดูแล การหาประโยชน์จากบุคคลธรรมดาและธุรกิจขนาดเล็ก และระบบนิเวศข้อมูลที่ถูกโจมตีต่างหากคือข้อกังวลเร่งด่วนที่ควรให้ความสนใจจริงๆ เมื่อพูดถึง AI