风控基建实战：如何打造高效安全的AIGC系统

见贤思齐

欢迎大家来到【风控基建实战】 风控团队与黑灰产的对抗是动态且激烈的，技术也在不断迭代升级。我们希望通过一系列硬核技术分享，与风控岗位的小伙伴们加深交流，共同夯实业务基石。2023年2月份ChatGPT引爆“AI时刻”，AI行业风起云涌，AIGC（AI生成内容）迅速席卷技术界，AIGC将成为未来的重要赛道，行业从业者需积极探索如何将ChatGPT和图像生成等能力应用于业务中，以获取更大的益处。但由于OpenAI对国内IP设置了访问限制，国内用户在体验和使用这一技术时面临障碍。如何能够让用户能够轻松地接触和利用ChatGPT，从而提升日常工作效率，并发掘AIGC在各种业务场景中的潜力？部分企业采用了自建AIGC系统的做法。系统能力建设一、 基建层基建层提供了数据存储、敏感信息过滤、审计和报表统计等功能，确保系统的稳定性和数据的安全性。安全审核模块：记录系统的操作记录，保障功能的安全合理使用。所有交互数据都接入安全内容机审，对于存在风险的记录会进行二次审核。报表统计模块：提供系统的使用统计和分析。数据安全处理模块：确保数据的隐私和安全，包括加密、访问控制等措施。对于手机号、密钥等隐私数据，在传输和存储过程中都会进行脱敏处理。此外，系统还需要严格的访问控制机制，确保只有授权用户才能访问系统页面。二、业务层业务层是系统的核心功能部分，包含多个具体的应用系统和模块，主要包括问答系统、文生图系统和知识库系统。问答系统支持OpenAI主流的问答模型，除了提供智能问答服务，还包含账户池模块和提示词工程模块。账户池模块：管理多个账户，当一个账户被封锁时，可以自动切换到其他可用账户。这确保了系统的连续性和稳定性，避免因单个账户问题导致服务中断。提示词工程模块：支持自定义提示词，以优化问答效果。通过调整提示词，系统可以更好地理解用户意图，提供更准确和有针对性的回答。文生图文生图系统是自建AIGC系统的重要组成部分，专注于将文本描述转化为高质量的图像。随着AIGC技术的不断进步，文生图系统在内容创作、设计、娱乐、教育等领域展现了巨大的应用潜力。文生图系统支持两种主流的生成模型：Stable Diffusion和DALL-E 3。Stable Diffusion以其高分辨率和细节处理能力著称，适用于需要高质量和细致图像的场景；而DALL-E 3则以其强大的创意和多样性见长，能够生成具有独特风格和创意的图像。以下是Stable Diffusion和Dall-E 3模型的生成的对比图片prompt: score_9, score_8_up, score_7_up, i want the whole image to be created in 3D anime style, 1girl, solo, long hair, looking at viewer, bangs, blue eyes, simple background, hair ornament, ribbon, closed mouth, hair ribbon, ponytail, white hair, sidelocks, black gloves, blunt bangs, armor, mole, from side, lips, looking to the side, petals, mole under eye, black background, portrait, tress ribbon, realistic, nose, kamisato ayaka知识库通过将专业领域数据和大语言模型结合，提高对话的精准度，并提供更专业、深度的答案。知识库基于开源框架LangChain、大语言模型ChatGLM-6B以及向量数据库Milvus搭建，整体流程如下：将专业领域数据进行处理后，提取文本块并将其转化为文本向量，存储到向量数据库中。当用户提交问题时，系统会经过提示词工程、问答上下文补充、领域数据匹配之后，将数据输入到大模型。大语言模型基于以上信息输出结果。三、接入层接入层是用户和系统交互的接口部分，可以确保系统的易用性和可访问性，它包括API接口和前端页面。API接口提供编程接口，供其他系统或应用程序调用。通过API接口，外部系统可以方便地访问AIGC系统的各种功能，实现系统间的无缝集成。未来，随着技术的不断创新和进步，AIGC将迎来更多的应用机会和发展空间，我们也在持续探索AIGC在不同业务上的应用可能，推进更多场景的落地。扫码关注得物风控，获得最新鲜的购物反诈提醒！也可在“得物App”关注“得物风控安全助手”哦~