AI根本守不住秘密!不依靠大模型的输出过滤才是铜墙铁壁
专注AIGC技术的专业社区,关注大语言模型(LLM)的发展和应用落地,聚焦LLM及AI技术的市场研究和开发者生态,欢迎关注!开发者习惯把各种秘密塞进系统提示词里,设定严格约束,以为用户看不见就安全无虞
阅读全文专注AIGC技术的专业社区,关注大语言模型(LLM)的发展和应用落地,聚焦LLM及AI技术的市场研究和开发者生态,欢迎关注!开发者习惯把各种秘密塞进系统提示词里,设定严格约束,以为用户看不见就安全无虞
阅读全文专注AIGC技术的专业社区,关注大语言模型(LLM)的发展和应用落地,聚焦LLM及AI技术的市场研究和开发者生态,欢迎关注!Andrej Karpathy,OpenAI联合创始人,前Tesla Aut
阅读全文专注AIGC技术的专业社区,关注大语言模型(LLM)的发展和应用落地,聚焦LLM及AI技术的市场研究和开发者生态,欢迎关注!人工智能的下半场,关键词是“行动”。当大模型不再满足于“对话聊天”,而是开始
阅读全文新智元报道 编辑:桃子 好困【新智元导读】太突然了!OpenAI深夜甩出GPT-5.5 Instant,全面接管ChatGPT默认模型。幻觉暴降52%、数学从65分飙到81分、回复字数直砍三成,
阅读全文新智元报道 编辑:桃子【新智元导读】12岁写代码,15岁赚第一桶金,28岁当上谷歌CMO,他却给年轻人泼了盆冷水:别学编程了!12岁写代码,成为谷歌史上最年轻CMO后,他却告诉所有Z世代——别卷
阅读全文新智元报道 编辑:元宇【新智元导读】Salesforce CEO Marc Benioff近日甩出一份招聘计划:要一口气招进1000名应届生或实习生,与他们一起搭乘AI快车。IBM更猛,北美入门
阅读全文🤖OpenAI 发布 GPT-5.5 Instant📱曝 Siri 将推出独立 App,对标 ChatGPT🚗鸿蒙智行回应零重力座椅夹人📱iPhone 17 包揽 2026 年 Q1 全球最畅销智能手
阅读全文一、核心摘要论文标题:To Call or Not to Call: A Framework to Assess and Optimize LLM Tool Calling(调用还是不调用:评估与优化
阅读全文最近看了一段Demis Hassabis在YC的访谈,信息量很大。Demis是Google DeepMind的掌门人,去年刚拿了诺贝尔化学奖,大概是当今世界离AGI最近的几个人之一。这次访谈里,他聊了
阅读全文两天时间里通过 vs@vs-ops-2 远程操作 Mac Mini M1 的完整运维方法。环境概况项目详情目标机器Mac Mini M1 16GB (macmini9,1)OSmacOS 26.4主机
阅读全文2026-05-05 GitHub日Star榜 每日精选最值得关注的开源项目 1. FL-STUDIO-PATCHER(热度: 460) FL Studio 2026破解补丁,提供安装说明
阅读全文你有没有发现,现在 AI 圈的术语已经卷到离谱了?今天有人聊 Agentic Workflow,明天有人讲 Agent Harness,后天又冒出个 Multi-Agent Orchestrator,
阅读全文改进代码质量的最佳方式是做好两件事:在开发之前_规划解决方案_,并且_定期进行代码评审_。之前我已经演示过,如何使用 Claude Code 的 /ultraplan 命令来简化规划阶段:用 Clau
阅读全文值得关注过去一天,Anthropic 和 OpenAI 前后脚官宣了各自的合资公司,把工程师派到企业里部署 AI,提供类似 Palantir 的驻场服务这两家的合作方,都是全球最大的几家私募股权基金
阅读全文柏拉图在《斐德罗篇》里记录了一个古老的对话。埃及神话中,发明之神透特将文字献给法老塔木斯,自以为带来了一份伟大的礼物,说它能增强人的记忆、让智慧得以传播。塔木斯却拒绝了,他说,文字带来的不是真正的记忆
阅读全文Anthropic 联合创始人 Jack Clark 今天发了一篇重磅长文,声称:AI 系统自己迭代改造自己,可能就在两年后。他花了几周时间,翻遍了上百个公开数据源,最后给出了一个概率:到 2028
阅读全文AI 红队怎么做?8 家头部公司全公开了最近被问得最多的一个问题:“我们做了 5 年 Web 渗透,对 OWASP WSTG 那一套熟得很——目录、payload、scope、report 模板都有。
阅读全文编译 | 宇琪 策划 | 褚杏娟 随着 AI 浪潮的席卷,产品经理(PM)这个职业正经历着一场前所未有的“角色重定义”。现在的 PM 必须成为一名“builder”:放弃对头衔和职级的执着,跨过心理门
阅读全文新智元报道 编辑:Aeneas【新智元导读】太炸裂了!刚刚,OpenAI总裁Brockman当庭承认:自己投入0美元,持有OpenAI营利部门300亿美元股份(马斯克捐了3800万,得到的是0)
阅读全文新智元报道 编辑:元宇【新智元导读】一颗星,0.1美元,一杯6元奶茶能买8颗。ICSE顶会论文曝出GitHub上600万颗星可能是刷出来的,其中大量「热门项目」很可能是伪装成盗版软件、游戏外挂、
阅读全文新智元报道 编辑:元宇【新智元导读】Anthropic让AI开口「招供」了。面对一批被故意植入隐藏行为,还被训练成「不许认账」的模型,IA辅助审计智能体拿下全场最高的59%成功率;更夸张的是,5
阅读全文挑战OpenAI地位的第二极来了。作者|硅谷Tech news编辑|张洪锦本文首发于钛媒体APP据知情人士透露,Anthropic已启动最新一轮融资,要求投资者尽快提交配售方案。据报道,此轮融资预计规
阅读全文AI 时代不奖励旁观者作者:壹小姐编辑:Chen、Koji周日晚八点,进入黑客松的 demo 时间。在上海漕河泾开发区科创公园湖心的 AI Hacker House 小楼里,几十个人陆续合上电脑。有人
阅读全文编辑|杨文、陈陈AI 很快就能自己改造自己了?Anthropic 联合创始人 Jack Clark 发帖称,他最近几周阅读了大量公开的 AI 开发数据后,认为到 2028 年底,递归自我改进(recu
阅读全文编辑 | 泽南AI 时代堆 GPU,原来是这么个堆法?马斯克旗下的 xAI 目前 GPU 资源利用率只有大概 11%。相关报告指出,其 AI 软件栈的优化效果不尽如人意。近日,《The Informa
阅读全文随着MCP、Agent Skills与各类Harness的快速发展,大模型能轻松调用成百上千种外部工具,但在多工具,具备复杂状态、长程交互的任务上仍有明显短板。尽管一系列环境扩展方法尝试复刻真实世界的
阅读全文鱼羊 发自 凹非寺量子位 | 公众号 QbitAI五一假期余额不足之际,低调了有一段时间的豆包悄咪咪搞起了大新闻,直接冲上热搜:这个真·国民级AI助手,要开始收费了。苹果App Store里,订阅服务
阅读全文图片来源:a16zZ Highlights整个Agent技术栈,包括身份认证、支付、营销等,正在兴起。我们还没有看到像MCP这类新兴标准与现有生态的全面竞争,这些都是真正的新范式。其实很多旧的套路和方
阅读全文图片来源:CGTNOpenAI 和 Anthropic 近期一直在严厉打击第三方通过提示其公开可访问的聊天机器人和 API 来训练新 AI 模型的行为,这一过程被称为“蒸馏”。实验室之间在相互使用这些
阅读全文