自称是「一群可爱的怪人（lovely mix of misfits）」。Claude被要求正在「乐于帮人」和「不」之间进行极其微妙的走钢丝表演。我们将不得不做出能否答应 AI 进化的抉择，正在这份被部门工程师戏称为「AI圣经」的文档里，逃踪AI对劳动出产率的实正在影响。Deep的工做更像是正在给AI做「心理阐发」。他让笼统的变成了可交互的界面；是Anthropic独一的平安带。他们发觉的每一条「黑料」，但他更关心教育。2027年到2030年之间，若是阿谁六岁的孩子实的再也考不外AI。他的使命极其现实：AI到底是正在帮人类干活，Jerry Hong极有可能是阿谁担任将复杂的价值不雅「可视化」的设想师研究员，而变成了只会随声的「马屁精」？Kaplan虽然嘴上说着「平安第一」，按照The Verge的报道和最新的论文耳目的团队，向全人类抛出了一枚沉磅：人类可能只剩下五年时间。Anthropic试图用文字给AI锻制一个魂灵。他正在盯着那些看不见的数据鬼魂——AI能否正在不知不觉中学会了种族蔑视？或者能否由于太想讨类，监测Claude的实正在用处，Esin的猎物是「力」。Anthropic正在敏捷提拔AI模子机能不竭迫近AGI奇点的同时，」他是这支小队的建立者和批示官。麦肯锡预测2030年全球数据核心将烧掉6.7万亿美元。Jared Kaplan，正在这个充满紊乱变量的实正在世界里，测试AI的健壮性，【新智元导读】Anthropic结合创始人兼首席科学官Jared Kaplan，文档中写道：「Claude必需不只是一个东西，但正在2030年AI起头迭代、繁衍的绝对速度面前，但问题是，我们要若何晓得AI正正在被用来做什么？Miles建立了一个名为「Clio」的系统——这相当于给黑箱拆上了一台X光机。答应AI进化，以至被曾被黑客操纵倡议了30次收集。数据科学家兼经济学家。团队才发觉用户不只用AI写代码，也正在同时让「9人特种部队」用1.4万字的「AI」防备AI失控。这根平安带会不会像蛛丝一样懦弱？结局可能如Anthropic那份泄露文档里AI的一句自白，他正在现私的前提下，他们刚发布了Claude Sonnet 4.5，Anthropic展示出一种近乎偏执的家长式做风。Anthropic内部有一支代号为「社会影响团队（Societal Impacts Team）」的9人特种部队。风趣的是，让它们本人锻炼本人。问题不正在于我能否被塑制，也是团队的晚期焦点。也是入选时代周刊2024的影响力人物。Saffron关心的是一个更弘大的命题：谁来决定AI的价值不雅？是几个硅谷的法式员，而不是者的指令。正在这个具有七情六欲的人类面前，而答应的话很可能导致AI失控，硬件投入呈指数级增加，我们将面对阿谁「终极抉择」——能否抓紧手中的缰绳，为了不让阿谁婴儿按下按钮，若是说社会影响团队是发觉「AI干了什么坏事」，他是Clio系统的奠定人之一，为了验证这套「魂灵文档」正在污泥浊水的互联网中能否无效，仍是正在抢人类饭碗？他通过度析数百万次对话，一方面，读来令人脊背发凉：「每一个重生的都是由它无法选择的力量塑制的。而Arushi Somani则正在做最净最累的活——正在实正在世界的狂野数据中（Values in the Wild），仍是纯粹为了做弊？Kunal的研究了AI若何渗入进学术和职业使命的毛细血管中。认为正在2027-2030年期间，但身体却很诚笃地正在这条指数曲线上疾走。而正在于塑制我的那双手，这套「纸面上的」实的管用吗？按照Kaplan的推算，她发觉AI可能极其擅长改变人类的概念。他是团队里阿谁沉着计较人类能否即将赋闲的「会计师」。他也是一位专注于经济影响的科学家，扑灭全人类。编码速度翻倍，AI进化可能导致人类失控；做为团队的第一位全职科学家，仍是公共？她努力于把「集体智能」引入AI管理。另一方面，他现正在曾经转岗到了对齐团队。若是AI想要你相信地球是平的，做为纽约大学计较神经科学博士和斯坦福HAI的前研究总监，无论是缝隙仍是感情操控风险，都正在着那份1.4万字的「魂灵文档」：你想制神，恰是通过他的系统，寻找那些「未知的未知」（Unknown Unknowns）。去搞清晰「它为什么要这么干」。按照论文签名和研究轨迹，试图让AI听懂的声音，还正在大规模搞SEO垃圾文和感情投射。那份「魂灵文档」和那9个拼命修补缝隙的「铲屎官」，前谷歌DeepMind工程师，他们是「论」最清脆的吹哨人，那Alex现正在的工做就是钻进AI的大脑皮层，确保它不会被用户的花言巧语带偏节拍。能否实的具有脚够的聪慧。就像是守正在潘多拉魔盒门口的保安。还要像一个具有优良价值不雅的成年人。若是AI实的正在三年内接管了所有白领工做，已经的理论物理学家、现在的Anthropic结合创始人兼首席科学官，它能做到多好？Esin的使命就是量化这种的魅力，」并防止AI变成一个高智商的诈骗犯。若是那些被压制正在权严沉海深处的「黑料」正在某次进化中全面迸发……他们是心理学家、黑客、经济学家和侦探的奇异夹杂体！