This photo taken on February 2, 2024 shows Lu Yu, head of Product Management and Operations of Wantalk, an artificial intelligence chatbot created by Chinese tech company Baidu, showing a virtual girlfriend profile on her phone, at the Baidu headquarters in Beijing.
Jade Gao | Afp | Getty Images
ปักกิ่ง จีนวางแผนที่จะจำกัดการใช้แชทบอทที่ใช้ปัญญาประดิษฐ์ (AI) ในการมีอิทธิพลต่ออารมณ์ของมนุษย์ในลักษณะที่อาจนำไปสู่การฆ่าตัวตายหรือการทำร้ายตัวเอง ตามร่างกฎระเบียบที่เผยแพร่เมื่อวันเสาร์
ตามรายงานจากการแปลเอกสารภาษาจีนโดย CNBC ระบุว่า ข้อกำหนดที่เสนอโดยสำนักงานบริหารไซเบอร์สเปซมุ่งเป้าไปที่สิ่งที่เรียกว่า'บริการ AI แบบโต้ตอบที่คล้ายมนุษย์'
มาตรการเหล่านี้ เมื่อสรุปขั้นสุดท้ายแล้ว จะมีผลบังคับใช้กับผลิตภัณฑ์หรือบริการ AI ที่นำเสนอต่อสาธารณะในประเทศจีน ซึ่งจำลองบุคลิกภาพของมนุษย์และดึงดูดอารมณ์ของผู้ใช้ผ่านข้อความ รูปภาพ เสียง หรือวิดีโอ ระยะเวลาการรับฟังความคิดเห็นสาธารณะสิ้นสุดในวันที่ 25 มกราคม
วินสตัน มา อาจารย์พิเศษประจำคณะนิติศาสตร์ มหาวิทยาลัยนิวยอร์ก กล่าวว่า กฎระเบียบที่ปักกิ่งวางแผนไว้จะเป็นความพยายามครั้งแรกของโลกในการควบคุมปัญญาประดิษฐ์ที่มีลักษณะเหมือนมนุษย์หรือคล้ายมนุษย์ ข้อเสนอใหม่ล่าสุดนี้เกิดขึ้นในขณะที่บริษัทจีนได้พัฒนาปัญญาประดิษฐ์ที่เป็นเพื่อนร่วมทางและคนดังดิจิทัลอย่างรวดเร็ว
เมื่อเปรียบเทียบกับกฎระเบียบด้านปัญญาประดิษฐ์เชิงสร้างสรรค์ของจีนในปี 2023หม่ากล่าวว่า กฎระเบียบฉบับนี้ “แสดงให้เห็นถึงก้าวสำคัญจากความปลอดภัยด้านเนื้อหาไปสู่ความปลอดภัยด้านอารมณ์”
ร่างกฎระเบียบดังกล่าวเสนอว่า :
- แชทบอท AI ไม่สามารถสร้างเนื้อหาที่ยุยงให้ฆ่าตัวตายหรือทำร้ายตัวเอง หรือใช้ความรุนแรงทางวาจาหรือการบิดเบือนทางอารมณ์ที่ทำลายสุขภาพจิตของผู้ใช้ได้
- หากผู้ใช้เสนอแผนการฆ่าตัวตายโดยเฉพาะ ผู้ให้บริการด้านเทคโนโลยีจะต้องให้เจ้าหน้าที่ที่เป็นมนุษย์เข้ามารับช่วงการสนทนาต่อ และติดต่อผู้ปกครองของผู้ใช้หรือบุคคลที่ได้รับมอบหมายโดยทันที
- แชทบอท AI ต้องไม่สร้างเนื้อหาที่เกี่ยวข้องกับการพนัน ลามกอนาจาร หรือรุนแรง
- ผู้เยาว์ต้องได้รับความยินยอมจากผู้ปกครองในการใช้ AI เพื่อเป็นเพื่อนทางอารมณ์ โดยมีข้อจำกัดด้านเวลาในการใช้งาน
- แพลตฟอร์มควรสามารถตรวจสอบได้ว่าผู้ใช้เป็นผู้เยาว์หรือไม่ แม้ว่าผู้ใช้จะไม่ได้เปิดเผยอายุของตน และในกรณีที่มีข้อสงสัย ควรใช้การตั้งค่าสำหรับผู้เยาว์ พร้อมทั้งอนุญาตให้มีการยื่นอุทธรณ์ได้
https://www.cnbc.com/video/2025/12/29/ai-supercharges-cyber-threats-and-the-fight-against-them-blackpanda.htmlข้อกำหนดเพิ่มเติมจะกำหนดให้ผู้ให้บริการด้านเทคโนโลยีต้องแจ้งเตือนผู้ใช้หลังจากใช้งาน AI ต่อเนื่องเป็นเวลาสองชั่วโมง และกำหนดให้มีการประเมินความปลอดภัยสำหรับแชทบอท AI ที่มีผู้ลงทะเบียนใช้งานมากกว่า 1 ล้านราย หรือมีผู้ใช้งานรายเดือนมากกว่า 100,000 ราย
เอกสารดังกล่าวยังสนับสนุนการใช้ปัญญาประดิษฐ์ที่มีลักษณะคล้ายมนุษย์ใน 'การเผยแพร่วัฒนธรรมและการเป็นเพื่อนกับผู้สูงอายุ'
การเสนอขายหุ้น IPO ของแชทบอท AI จีน
ข้อเสนอดังกล่าวเกิดขึ้นไม่นานหลังจากที่บริษัทสตาร์ทอัพด้านแชทบอท AI ชั้นนำของจีน 2 แห่ง ได้แก่ Z.ai และ Minimax ยื่นขอเสนอขายหุ้นต่อสาธารณะครั้งแรกในฮ่องกงเมื่อเดือนนี้
บริษัท Minimax เป็นที่รู้จักในระดับสากลมากที่สุดจากแอปพลิเคชัน Talkie AI ซึ่งช่วยให้ผู้ใช้สามารถสนทนากับตัวละครเสมือนจริงได้ แอปพลิเคชันนี้และเวอร์ชันภาษาจีนในชื่อ Xingye ทำรายได้มากกว่าหนึ่งในสามของรายได้รวมของบริษัทในช่วงสามไตรมาสแรกของปี โดยมีผู้ใช้งานเฉลี่ยมากกว่า 20 ล้านคนต่อเดือนในช่วงเวลาดังกล่าว
Z.ai หรือที่รู้จักกันในชื่อ Zhipu ยื่นจดทะเบียนภายใต้ชื่อ 'เทคโนโลยีแผนที่ความรู้'แม้ว่า บริษัทจะไม่ได้เปิดเผยจำนวนผู้ใช้งานรายเดือน แต่ระบุว่าเทคโนโลยีของตน'เสริมศักยภาพ' ให้กับอุปกรณ์ประมาณ 80 ล้านเครื่อง รวมถึงสมาร์ทโฟน คอมพิวเตอร์ส่วนบุคคล และยานยนต์อัจฉริยะ
ทั้งสองบริษัทไม่ได้ตอบคำขอของ CNBC ที่ขอความคิดเห็นเกี่ยวกับผลกระทบของกฎระเบียบที่เสนอต่อแผนการเสนอขายหุ้น IPO ของพวกเขา
อิทธิพลของปัญญาประดิษฐ์ (AI) ที่มีต่อพฤติกรรมมนุษย์ได้รับการตรวจสอบอย่างเข้มงวดมากขึ้นในปีนี้
แซม อัลท์แมน ซีอีโอของ OpenAI ผู้ให้บริการ ChatGPT ในสหรัฐอเมริกา กล่าวเมื่อเดือนกันยายนว่า หนึ่งในปัญหาที่ยากที่สุดสำหรับบริษัทคือวิธีที่แชทบอทของบริษัทตอบสนองต่อบทสนทนาที่เกี่ยวข้องกับการฆ่าตัวตาย เดือนก่อนหน้านั้น ครอบครัวหนึ่งในสหรัฐฯ ได้ยื่นฟ้องOpenAIหลังจากที่ลูกชายวัยรุ่นของพวกเขาเสียชีวิตจากการฆ่าตัวตาย
เพื่อสะท้อนถึงความเร่งด่วนที่เพิ่มมากขึ้น ในช่วงสุดสัปดาห์ที่ผ่านมา OpenAI ได้ประกาศรับสมัคร ”หัวหน้าฝ่ายเตรียมความพร้อม” เพื่อประเมินความเสี่ยงของ AI ตั้งแต่ผลกระทบต่อสุขภาพจิตไปจนถึงความปลอดภัยทางไซเบอร์
ผู้คนจำนวนมากหันมาใช้ AI ในเรื่องความสัมพันธ์เช่นกัน เดือนนี้หญิงชาวญี่ปุ่นคนหนึ่งแต่งงานกับแฟนหนุ่ม AI ของเธอ
จาก ผลการจัดอันดับของ SimilarWebประจำเดือนพฤศจิกายนพบว่าสองแพลตฟอร์มที่เน้นการโต้ตอบกับตัวละครเสมือนจริง ได้แก่ Character.ai และ Polybuzz.ai ติดอันดับ 1 ใน 15 แชทบอทและเครื่องมือ AI ยอดนิยม
มาตรการภายในประเทศที่เสนอนี้เป็นไปตามความพยายามในวงกว้างของจีนตลอดปีที่ผ่านมา เพื่อกำหนดกฎเกณฑ์ระดับโลกเกี่ยวกับการกำกับดูแลปัญญาประดิษฐ์ (AI )
