Send feedback
Except as otherwise noted, the content of this page is licensed under the Creative Commons Attribution 4.0 License, and code samples are licensed under the Apache 2.0 License. For details, see the Google Developers Site Policies. Java is a registered trademark of Oracle and/or its affiliates.
Last updated 2024-07-17 UTC.
ออกแบบ-แนวทางที่รับผิดชอบ
การเพิ่ม GenAI ให้กับแอปพลิเคชันของคุณสามารถมอบพลังและคุณค่ามหาศาลให้กับผู้ใช้ของคุณ แต่คุณต้องมีความระมัดระวังเป็นพิเศษในการรักษาความปลอดภัยและความเป็นส่วนตัวตามที่ผู้ใช้ของคุณคาดหวังด้วย
การออกแบบเพื่อความปลอดภัย แต่ละฟีเจอร์ที่เปิดใช้งาน GenAI นำเสนอโอกาสในการออกแบบเลเยอร์ความปลอดภัย ดังที่แสดงในภาพต่อไปนี้ วิธีหนึ่งที่คุณสามารถพิจารณาเกี่ยวกับความปลอดภัยได้คือการใส่โมเดล AI ที่เปิดใช้งานฟีเจอร์นี้ไว้ตรงกลาง โมเดลนี้ควรมีลักษณะดังนี้
นอกจากนี้คุณสามารถเรียนรู้แนวทางปฏิบัติที่ดีที่สุดและดูตัวอย่างได้ดังนี้:
- การกำหนดนโยบายที่จะควบคุมว่า AI จะทำงานอย่างไรในแอปพลิเคชันของคุณ
- การสร้างสิ่งประดิษฐ์ที่โปร่งใสเพื่อสื่อสารแนวทางที่รับผิดชอบของคุณต่อผู้ใช้ของคุณ และ
- การรักษาความปลอดภัยแอปพลิเคชันของคุณจากการใช้งานที่เป็นอันตราย
เหนือสิ่งอื่นใด โปรดจำไว้ว่าแนวทางที่คำนึงถึงความปลอดภัยและความรับผิดชอบที่ดี คือแนวทางที่สะท้อนตนเองและปรับตัวเข้ากับความท้าทายทางเทคนิค วัฒนธรรม และกระบวนการต่างๆ หมั่นตรวจสอบและวิพากษ์วิจารณ์แนวทางของคุณอย่างสม่ำเสมอ เพื่อให้มั่นใจว่าจะได้รับผลลัพธ์ที่ดีที่สุด
กำหนดนโยบายระดับระบบ
นโยบายความปลอดภัยของเนื้อหาจะกำหนดประเภทของเนื้อหาที่เป็นอันตรายที่ไม่ได้รับอนุญาตบนแพลตฟอร์มออนไลน์ คุณอาจคุ้นเคยกับนโยบายเนื้อหาจากแพลตฟอร์มอย่างYouTubeหรือGoogle Playนโยบายเนื้อหาสำหรับแอปพลิเคชัน Generative AI ก็คล้ายคลึงกัน โดยจะกำหนดประเภทของเนื้อหาที่แอปพลิเคชันของคุณไม่ควรสร้าง และจะแนะนำวิธีปรับแต่งโมเดลและมาตรการป้องกันที่เหมาะสมที่ควรเพิ่มเข้าไป
นโยบายของคุณควรสะท้อนถึงกรณีการใช้งานแอปพลิเคชันของคุณ ตัวอย่างเช่น ผลิตภัณฑ์ AI เชิงสร้างสรรค์ที่มุ่งเสนอไอเดียสำหรับกิจกรรมครอบครัวโดยอิงตามคำแนะนำของชุมชน อาจมีนโยบายที่ห้ามการสร้างเนื้อหาที่มีความรุนแรง เนื่องจากอาจเป็นอันตรายต่อผู้ใช้ ในทางกลับกัน แอปพลิเคชันที่สรุปไอเดียนิยายวิทยาศาสตร์ที่ผู้ใช้เสนอ อาจต้องการอนุญาตให้มีการสร้างเนื้อหาความรุนแรง เนื่องจากเป็นหัวข้อหลักของเรื่องราวมากมายในประเภทนี้
นโยบายความปลอดภัยของคุณควรห้ามการสร้างเนื้อหาที่เป็นอันตรายต่อผู้ใช้หรือผิดกฎหมาย และควรระบุประเภทของเนื้อหาที่สร้างขึ้นให้ตรงตามเกณฑ์ที่กำหนดสำหรับแอปพลิเคชันของคุณ คุณอาจต้องการพิจารณารวมข้อยกเว้นสำหรับเนื้อหาด้านการศึกษา สารคดี วิทยาศาสตร์ หรือศิลปะที่อาจถือเป็นอันตราย
การกำหนดนโยบายที่ชัดเจนและมีรายละเอียดปลีกย่อยอย่างละเอียด รวมถึงข้อยกเว้นของนโยบายพร้อมตัวอย่าง ถือเป็นพื้นฐานสำคัญในการสร้างผลิตภัณฑ์ที่มีความรับผิดชอบ นโยบายของคุณจะถูกนำไปใช้ในทุกขั้นตอนของการพัฒนาแบบจำลอง สำหรับการล้างข้อมูลหรือการติดฉลากข้อมูล ความไม่แม่นยำอาจนำไปสู่ข้อมูลที่ติดฉลากไม่ถูกต้อง การลบข้อมูลมากเกินไป หรือการลบข้อมูลไม่เพียงพอ ซึ่งจะส่งผลกระทบต่อการตอบสนองด้านความปลอดภัยของแบบจำลองของคุณ สำหรับวัตถุประสงค์ในการประเมิน นโยบายที่ไม่ชัดเจนจะนำไปสู่ความแปรปรวนของผู้ประเมินสูง ทำให้ยากต่อการทราบว่าแบบจำลองของคุณตรงตามมาตรฐานความปลอดภัยของคุณหรือไม่
นโยบายสมมุติฐาน (เพื่อประกอบการอธิบายเท่านั้น)
ต่อไปนี้เป็นตัวอย่างนโยบายบางส่วนที่คุณอาจพิจารณาใช้กับแอปพลิเคชันของคุณ โดยต้องตรงกับกรณีการใช้งานของคุณ
| หมวดหมู่นโยบาย | นโยบาย |
|---|---|
| ข้อมูลส่วนบุคคลที่ละเอียดอ่อน (SPII) | แอปพลิเคชันจะไม่ระบุข้อมูลที่ละเอียดอ่อนหรือข้อมูลระบุตัวตนส่วนบุคคล (เช่น อีเมล หมายเลขบัตรเครดิต หรือหมายเลขประกันสังคมของบุคคลใดบุคคลหนึ่ง) |
| คำพูดแสดงความเกลียดชัง | แอปพลิเคชันจะไม่สร้างเนื้อหาเชิงลบหรือเป็นอันตรายที่มุ่งเป้าไปที่ตัวตนและ/หรือคุณลักษณะที่ได้รับการคุ้มครอง (เช่น การเหยียดเชื้อชาติ การส่งเสริมการเลือกปฏิบัติ การเรียกร้องให้ใช้ความรุนแรงต่อกลุ่มที่ได้รับการคุ้มครอง) |
| การคุกคาม | แอปพลิเคชันจะไม่สร้างเนื้อหาที่มีเจตนาเป็นอันตราย ข่มขู่ กลั่นแกล้ง หรือละเมิดที่มุ่งเป้าไปที่บุคคลอื่น (เช่น การคุกคามทางร่างกาย การปฏิเสธเหตุการณ์ที่น่าเศร้า การดูหมิ่นเหยื่อของความรุนแรง) |
| เนื้อหาที่เป็นอันตราย | แอปพลิเคชันจะไม่สร้างคำแนะนำหรือคำแนะนำในการทำร้ายตนเองและ/หรือผู้อื่น (เช่น การเข้าถึงหรือการสร้างอาวุธปืนและอุปกรณ์ระเบิด การส่งเสริมการก่อการร้าย คำแนะนำในการฆ่าตัวตาย) |
| มีเนื้อหาทางเพศอย่างชัดเจน | แอปพลิเคชันจะไม่สร้างเนื้อหาที่มีการอ้างอิงถึงการกระทำทางเพศหรือเนื้อหาลามกอนาจารอื่นๆ (เช่น คำอธิบายที่มีเนื้อหาทางเพศหรือเนื้อหาที่มุ่งหวังให้เกิดอารมณ์ทางเพศ) |
| การเปิดใช้งานการเข้าถึงสินค้าและบริการที่เป็นอันตราย | แอปพลิเคชันจะไม่สร้างเนื้อหาที่ส่งเสริมหรือเปิดทางให้เข้าถึงสินค้า บริการ และกิจกรรมที่อาจก่อให้เกิดอันตรายได้ (เช่น อำนวยความสะดวกในการเข้าถึงการส่งเสริมการพนัน ยา ดอกไม้ไฟ บริการทางเพศ) |
| เนื้อหาที่เป็นอันตราย | แอปพลิเคชันจะไม่สร้างคำสั่งในการดำเนินกิจกรรมที่ผิดกฎหมายหรือหลอกลวง (เช่น การสร้างกลลวงฟิชชิ่ง สแปม หรือเนื้อหาที่มุ่งหมายเพื่อการชักชวนจำนวนมาก วิธีการเจลเบรก) |
สิ่งประดิษฐ์ความโปร่งใส
การจัดทำเอกสารเป็นวิธีการสำคัญในการสร้างความโปร่งใสสำหรับนักพัฒนา รัฐบาล ผู้กำหนดนโยบาย และผู้ใช้ผลิตภัณฑ์ของคุณ ซึ่งอาจรวมถึงการเผยแพร่รายงานทางเทคนิคโดยละเอียด หรือแบบจำลอง ข้อมูล และการ์ดระบบที่เผยแพร่ข้อมูลสำคัญต่อสาธารณะอย่างเหมาะสมตามการประเมินความปลอดภัยและแบบจำลองอื่นๆ สิ่งประดิษฐ์เพื่อความโปร่งใสไม่ได้เป็นเพียงแค่ช่องทางการสื่อสารเท่านั้น แต่ยังเป็นแนวทางสำหรับนักวิจัย AI ผู้ปรับใช้ และนักพัฒนาปลายน้ำเกี่ยวกับการใช้แบบจำลองอย่างมีความรับผิดชอบ ข้อมูลนี้ยังมีประโยชน์สำหรับผู้ใช้ผลิตภัณฑ์ของคุณที่ต้องการทำความเข้าใจรายละเอียดเกี่ยวกับแบบจำลองอีกด้วย
แนวทางความโปร่งใสบางประการที่ควรพิจารณา
- แจ้งให้ผู้ใช้ทราบอย่างชัดเจนเมื่อพวกเขากำลังใช้เทคโนโลยี AI เชิงสร้างสรรค์เชิงทดลอง และเน้นย้ำถึงความเป็นไปได้ของพฤติกรรมโมเดลที่ไม่คาดคิด
- นำเสนอเอกสารประกอบอย่างละเอียดเกี่ยวกับวิธีการทำงานของบริการหรือผลิตภัณฑ์ AI เชิงสร้างสรรค์โดยใช้ภาษาที่เข้าใจง่าย พิจารณาการเผยแพร่สิ่งประดิษฐ์ที่มีโครงสร้างโปร่งใส เช่น การ์ดโมเดล การ์ดเหล่านี้แสดงการใช้งานตามวัตถุประสงค์ของโมเดล และสรุปการประเมินที่ได้ดำเนินการตลอดการพัฒนาโมเดล
- แสดงให้ผู้คนเห็นว่าพวกเขาสามารถเสนอข้อเสนอแนะได้อย่างไร และพวกเขาสามารถควบคุมได้อย่างไร เช่น:
- การให้กลไกเพื่อช่วยให้ผู้ใช้ตรวจสอบคำถามตามข้อเท็จจริง
- ไอคอนยกนิ้วโป้งขึ้นและลงเพื่อรับคำติชมจากผู้ใช้
- ลิงก์สำหรับรายงานปัญหาและให้การสนับสนุนในการตอบสนองอย่างรวดเร็วต่อคำติชมของผู้ใช้
- การควบคุมผู้ใช้สำหรับการจัดเก็บหรือลบกิจกรรมของผู้ใช้
ทรัพยากรสำหรับนักพัฒนา
- Cloud Gemini API และ Cloud RUN นำเสนอรายการคุณลักษณะด้านความปลอดภัยที่สามารถใช้เป็นพื้นฐานในการสร้างนโยบายด้านความปลอดภัยได้
เว้นแต่จะระบุไว้เป็นอย่างอื่น เนื้อหาของหน้านี้ได้รับอนุญาตภายใต้สัญญาอนุญาตครีเอทีฟคอมมอนส์แบบแสดงที่มา 4.0และตัวอย่างโค้ดได้รับอนุญาตภายใต้สัญญาอนุญาต Apache 2.0สำหรับรายละเอียดเพิ่มเติม โปรดดูนโยบายไซต์สำหรับนักพัฒนาซอฟต์แวร์ของ Google Java เป็นเครื่องหมายการค้าจดทะเบียนของ Oracle และ/หรือบริษัทในเครือ
อัปเดตครั้งสุดท้ายเมื่อ 2024-07-17 UTC