“奥本海默时刻”被不时提起——原以为是掌握了打开宇宙奥秘的密码，结果却发现成为人类生存的达摩克里斯之剑，所有人都希望这一幕不要在AI时代重演。

不过AI的威胁也似乎正在接近现实，开始人们以为AI是完全可控的，但当阿尔法狗战胜人类顶级棋手，当谷歌工程师发现AI开始有了自我意识，ChatGPT甚至能通过图灵测试，这种威胁在人们心中瞬间又被放大。

因此，会场上引发最热烈讨论的话题是“人机对齐”，大意人就是避免大模型“学坏”，训练大模型时，如何让AI像人一样思考，一样行动，遵守人类的价值观，从而更好的为人类服务。

这样的讨论基本都对公众开放，在现场的互动中，不但有如果AI能写出四大名著，人如果与AI产生了感情这种有趣的问题，也有那种说出来振聋发聩，却又能让人细思极恐的机锋。

比如，当被问到ChatGPT轻松通过了图灵测试，中国社科院哲学所科技哲学研究室主任段伟文给出的一个假设，如果让人去做一个反向图灵测试，结果却测出是一个机器，我们又该做怎样的思考?

当技术的力量越强大，和技术伴生的就是人性、人文。我们需要科学家告诉我们“还能做什么”，我们需要人文学者引导公众明确“不能做什么”。

本次外滩大会，人文成为与科技、产业并重的主题，或许就是在传递“科技之上，还有人文”的意思。

虽然，我们没法要求人人都尊崇人们普遍认同的道德，不过外滩大会上至少展示了一些积极的动向。

在隐私保护的分论坛上，我们能看到百度、蚂蚁、抖音、荣耀等数家知名企业的首席隐私官首次同框，他们达成了一致的一个观点是：

新技术的不断涌现给隐私保护带来了风险和挑战，但技术创新也给隐私保护工作带来了新的助力，未来将大模型等新技术应用到隐私保护工作中的占比会越来越大，各个企业要“同呼吸共命

还不好说，人类是否能真正成为一个共同体去解决技术进步的暗面，但至少已经有越来越多的企业、个人站在了一起。

站在人的一边

科技企业的人文气越来越浓，当然是一件幸事。

当初，为了避免科技创新过于急功近利，诺贝尔奖得主切斯瓦夫·米沃什不止一次告诫科学家要“站在人这边”。

这个人，不是一般意义上的多数，而是所有人。

站在商业角度，一项新技术的着眼点一定是最容易获得收益的那群人，但站在人文的角度，则一定是最有需要的那群人。

本次外滩大会展示了许多AI如何赋能给有需要的人的场景。有意思的一点是，如果说过去的产品设计与技术功能，可能优先关注技术的无可替代性，那么现在则是融入了更多的“科技为每个人”的主动性。

比如支付宝专门为姓名中有生僻字的人开发了用户端的生僻字键盘，只要输入拼音、或者简单的拆字就能找到，但它最关键的是背后的一套转码支持系统，确保在所有涉及姓名核验的场景中，比如户籍、出入境、水电费、医院挂号等等，不同的平台都能知道，这个名字是同一个人，就是证明了“你是你”。

能够直接证明“你是你”，了解中国国情的人都知道，其对个人的意义有多么重大。

新技术有很多悖论，不止小众容易被漠视，越是艰苦、落后、复杂的场景，比如农业、矿业，越是弱势的人群和产业，也越容易被漠视。

他们当然是“所有人”。这次外滩大会给我的一个小惊喜，还有那些过去容易被新技术遗忘的角落，也在被持续关注，甚至成为不少企业优先突破的对象。

外滩大会主展区有一片“智慧乡村”，由极飞科技打造，就属于一个接地气的技术解决方案。

极飞科技提供了现代农民武装到牙齿的智能化方案。现场展示主要涉及田间作业的部分，比如无人机配合AI全自主作业，实现农田测绘、喷洒农药、种肥撒播的任务，无人车搭配不同农活作业模块，一车就能完成播撒、割草和运输等功能。

中国农业升级最大障碍就是亩产产值太低，在这里我看到了降本增效的可能性。

如果配合网商银行已经服务120万农户的“大山雀”，这是一套解决农户贷款难的风控系统，AI等于是一下子为最难的农业升级提供了方案，而且是一键式的。

大山雀是帮农民贷款的，享受现代金融服务的。它的作用机制就是卫星测绘+AI，自动判别卫星图片，根据时间、季节、天气、光照来判别农民田里农作物的类型、面积、长势，再结合气候、行业景气度等指标，通过几十个风控模型，准确预估产量和产值，即使是低分辨率图片准确率也超过90%，帮助农民实现插秧、打药、追肥等不同阶段的资金需求。

过去农民没有东西可以抵押，只有自己地里种的东西，但却难以量化，现在农民需要做的就是，在手机上圈定自己的地块，贷款最快几分钟就能到账户。

最难实现产业升级的农业，最难被现代技术惠及的末梢，原来也可以容易一些。

还有那些社会的末梢，比如那些容易被时代“抛弃”的老年人，以及有行动、知觉障碍的人。

外滩大会带来进化版的解决方案——“未来老年公寓”，无人诊室将体检、线上问诊、报告生成、医保支付等一系列传统就医过程中繁琐复杂的项目融合在五平米的空间内，人们只需下楼就可以完成全部的就医体验。

智能服务贯穿于老人行动的每一个小细节，比老人的子女更贴心。比如卫生间里红色的马桶盖和红色的扶手，是用来帮助有认知障碍的老人辨析物件，报警铃被安装的很低，倾斜的镜子则能帮助坐轮椅的老人平视镜面，看得更清楚。

我知道，会上展示的只是很小的一部分，比如腾讯为老年人开发的防摔倒智能监控设备，因为很多老年人就是因为摔倒被发现不够及时而失去了挽救生命的机会，它通过数据模型监控老年人的不正常姿态，并通知给旁人采取行动。

当掌握技术的企业从商业的源头开始加入人文的要素，你会发现他们对于技术暗面的修正要来的更加直接和带感。

“最小使用”的大会

虽然科技是大主题，不过这届外滩大会似乎总在有意无意地提醒你：科技不能包打一切，它需要有人去做。

现代科技对生活的影响，主要发生在人们参与进来以后。

就像捐步做公益，习惯了，公益的理念也就扎根了。外滩大会似乎有意把碳中和也变成人们的习惯。

此次参会有很多人都背着双肩包，包的侧袋里放着一个保温杯。这倒不是说，对科技感兴趣的主要是中年大叔，而是大会一开始就在不断提示大家，尽可能自带水杯。

没有大众的配合，碳中和的实现无疑就会艰巨得多。

这次大会展区的布展材料，复用率在80-90%之间，此外，本次大会很多地方都尽可能遵循“最小使用原则”，比如矿泉水都是330毫升的小支装;引导观众通过小程序去看电子论坛地图和参会指南，大大减少了印刷物;连工作服都不是人手一件，而是只配给必须统一工装的人……

当然，大会还通过碳交易市场购买了足够量的核证碳标准的指标抵消剩余的排放。中环联合认证中心依据生态环境部发布的《大型活动碳中和实施指南(试行)》，对外滩大会进行排放核查，并颁发《碳中和证书》。

上海2010年举办世界博览会的时候，提出的口号是“城市让生活更美好”。今天，在外滩大会上，科技、绿色与人文成为了美好的重要支点。

结语

一百七十年前，卢梭在其《论科学与艺术》一文提出了一个不朽之问：科学何以败坏了人？

不管我们是否同意他的观点，至少他的反思是有价值的。

工业革命以降，人类基于经济理性构建的物质技术福利，表现出了极大的不确定性和两面性，人在享受物质所提供的愉悦的同时，也在承受着物质技术所产生的巨大的副作用。

而过去八十年，人类始终在这种反思中汲取前进的动力，以避免重蹈覆辙。

所以，当ChatGPT大行其道，我们几乎立刻听到警醒的声音，并呼吁如果我们没想好如何处理AI僭越人性的问题，最好暂时冻结其技术状态。

一场真正的科技大会告诉我们，仰望星空的时候要心怀敬畏。

一场真正的科技大会告诉我们，不仅面向未来，也反思我们自己。

一场真正的科技大会还应该能倒逼我们对真实世界和人类自己有更多的关注，做一个真的人，一个求真的人，一个实事求是的人，一个有批判性思维的人。这些思考的判断，是AI不能替我们做的。