要文快报！AI安全需未雨绸缪 月之暗面CEO杨植麟谈长期布局

AI安全需未雨绸缪 月之暗面CEO杨植麟谈长期布局

北京讯（记者 张楠楠）6月14日，在2024北京智源大会上，月之暗面CEO杨植麟与百川智能CEO王小川、智谱AI CEO张鹏、面壁智能联合创始人兼CEO李大海共同出席“尖峰对话：通往AGI之路”环节，探讨了人工智能安全等话题。

杨植麟表示，AI安全非常重要，虽然它可能不是当前最紧迫的问题，但却是需要我们提前去准备的。“随着模型的不断优化和Scaling Law（尺度定律）的发展，每N个月算力乘以十倍，智能水平也会得到提升，这是一个逐渐适应的过程。”他指出，AI安全不一定是当前最大的矛盾或者最紧急的事情，但肯定是长期储备。

杨植麟认为，在AI安全方面，最重要的是要关注以下两个方面：

• **模型的鲁棒性。**模型可能会因为用户本身存在恶意意图，通过prompt（提示词）让模型去做一些本来不应该做的事情。因此，需要提高模型的鲁棒性，使其能够抵御恶意攻击。
• **模型的动机。**模型本身是否有自己的motivation（动机），这与训练方式相关。需要在模型的底层去注入例如AI的“宪法”、功能去框定其行为，无论用户给什么指示，都不会违背这个“宪法”。

杨植麟强调，AI安全是一项复杂的系统工程，需要产学研各界共同努力，从技术、制度、伦理等多个层面构建起全方位的安全体系。

关于月之暗面

月之暗面成立于2021年，是一家专注于大模型研发和应用的公司。公司拥有业界领先的大模型技术，并已在多个领域落地应用，包括智能客服、内容生成、辅助决策等。

媒体联系

张楠楠

月之暗面

[移除了电子邮件地址]

《中国奇谭》第二季蓄势待发 国创动漫IP再添新机遇

备受好评的国产动画集《中国奇谭》第一季落下帷幕，但“中国小妖怪”的故事却远未结束。近日，哔哩哔哩与上海电影美术制片厂联合宣布，《中国奇谭》第二季正式启动，并同步公布了68部国创动画作品。这不仅为喜爱《中国奇谭》的观众带来了福音，也为中国动漫IP的开发和运营注入了新的活力。

**《中国奇谭》第一季的成功，展现了中国动画的独特魅力和广阔发展前景。**该片以单元剧的形式，讲述了八个根植于中国传统文化的独立故事，风格各异，引人入胜。无论是充满童趣的《小妖怪的夏天》，还是意蕴深远的《小满》，都展现了中国动画人丰富的想象力和精湛的创作功底。该片在国内外收获了广泛好评，在哔哩哔哩平台的评分高达9.9分，豆瓣评分也达到9.5分，成为近年来最受关注的国产动画作品之一。

**《中国奇谭》第二季的启动，标志着上海电影美术制片厂和哔哩哔哩在国创动漫领域的强强合作。**上海电影美术制片厂是中国动画的摇篮，曾创作了《大闹天宫》《哪吒闹海》等众多经典动画作品。哔哩哔哩则是国内领先的视频网站，拥有大量的年轻用户群体和丰富的二次元文化资源。双方的合作将为《中国奇谭》第二季的创作和推广提供强有力的支持。

**《中国奇谭》第二季的开发，也将为中国动漫IP的开发和运营提供新的经验和启示。**近年来，随着中国动漫产业的快速发展，动漫IP的价值也越来越受到重视。然而，许多动漫IP在开发和运营方面都存在着不足，导致IP价值难以充分释放。《中国奇谭》第一季的成功，为动漫IP的开发和运营提供了宝贵的经验。该片以优秀的创作内容为基础，通过多元化的运营方式，成功打造了具有广泛影响力的动漫IP。

**《中国奇谭》第二季的启动，是上海电影美术制片厂和哔哩哔哩对中国动漫产业发展的信心和决心。**相信在双方的共同努力下，《中国奇谭》第二季将取得更加辉煌的成绩，并为中国动漫IP的开发和运营提供新的思路和范式。