外滩大会参会规模创新高，人们都在关注如何防止AI作恶

admin
admin
作者

　　9月7日，2024 Inclusion·外滩大会正式闭幕。事实上，这一天下午，距离大会闭幕几个小时前，仍有观众在排队入场。官方数据显示，本届大会共吸引了5.2万人现场参会，无论是参会规模还是国际嘉宾的数量，均创下了历史新高。除了年轻人，记者注意到，观众队伍中还有不少老人、小孩。

外滩大会参会规模创新高，人们都在关注如何防止AI作恶

　　本届外滩大会以“科技·创造可持续未来”为主题，包括36场开放见解论坛、10多场创新者舞台、2场AI创新赛事、1场10000平方米的展览以及1场绿色生活节和1场科技人才招聘会。据统计，三天时间内，有30余项AI新成果在本届外滩大会发布，包括蚂蚁AI生活管家“支小宝”、AI金融管家“蚂小财”，AI健康管家等。

　　10000平方米的展览场地汇集了众多企业参展，记者观察到，相比往年，准备各类装备体验、互动的厂商越来越多了，许多展台前，观众为参与体验排起长队。重视人文性，成为本届外滩大会的一大特点。除了开幕式上24岁的独臂男孩周键借智能仿生手演奏钢琴的动人瞬间，在外滩大会的展区，借助设备观众可以体验将脑电波以花朵的形式可视化，让瞬间的情绪形成纪念。还有可实现“拥抱传递”的设备，穿戴上内嵌人造肌肉纤维的特制背心，当另一个人拥抱装有压力传感器的模型时，体验者便能感受到模拟其声控、触觉反馈和温度调节等多种感官元素的“远程拥抱”。

　　在这一年的外滩大会上，如何让“技术向善”的讨论和研发更加被业界重视。

　　AI医疗受关注

　　为期三天的展览中，AI医疗的相关产品、企业展台总有着最多的人流量，“爸妈记忆力下降了怎么办？”“AI如何辅助癌症筛查？”这些问题让不少观众不自觉就迈入了相关展区，不断有老人加入脑健康检测，有年轻人加入脑电波的“画图”。

　　“和去年相比，今年外滩大会AI人工智能的份额感觉更高了，而且不是像之前傻乎乎的那种，今年的很多应用是真的有用的，明显能感觉到算法提升了很多，比如说面部识别功能或者语音交互功能，都感觉上升了一个档次，效果变好了，所以大家体验的热情也高。”一位参会的展商对记者表示。

　　来不及喝口水，达摩院AI医疗展台的工作人员就迎来了下一位咨询的观众，今年的外滩大会上，达摩院医疗AI实验室展出了其AI医学影像分析产品，借助AI技术，这项产品能够从平扫CT中进行胰腺癌、食管癌、肠癌、胃癌等八大癌症及一系列慢性病的筛查，吸引了不少观众。

　　展台的工作人员告诉记者，通过AI识别，这项产品能够在肝癌、肺癌等癌症筛查中达到90%以上的准确率，提升医生的工作效率，补足一些医疗资源不均衡带来的问题。

　　“其实这项技术主要是面向B端的，为医生服务，客户更多是医院、体验机构、保险公司、公益组织以及软件厂商之类的，但这两天很多个人也非常感兴趣。”上述工作人员表示。尽管许多AI医疗产品并未直接面向C端用户，但外滩大会的观众们对AI医疗将如何改变疾病的诊治感到好奇。

　　博斯腾科技的展台则吸引到了大量的老年观众，许多老人纷纷拿出手机通过支付宝“碰一碰”进行答题，检测自己得阿尔兹海默病的风险指数。展区的工作人员介绍，通过许多数据、资料的支撑，这款产品能够通过答题测验、语音交互、动作识别等方式检测阿尔兹海默病，并通过大模型生成用户专属的脑健康训练计划。

　　“我们的产品2020年成型，但借助摄像头的动态识别功能是今年刚推出的，主要是借力于AI功能的发达，包括训练方案的推荐，也的确在大模型出现后智能了很多。”该展区的工作人员告诉记者。随着AI的发展，更多AI医疗产品的“进化”值得期待。

　　需要强调的是，目前，许多AI医疗产品的诊疗效果仍缺乏公开数据或第三方权威机构的验证，相关展台的工作人员也均表示AI医疗产品无法完全代替医生诊疗需求，以辅助作用为主。不过，AI在医疗问题中的应用的确被业界期待。

　　不少大厂也在押注AI医疗赛道。外滩大会上，支付宝发布AI应用新产品“AI健康管家”，为用户提供找医生、读报告、陪看诊、问医保、管健康等30多项AI健康服务。百川智能创始人王小川则介绍，百川智能将重点在大医疗AI领域做投入，从儿科医生、全科医生两个切入点发力，希望在明年实现医疗的低成本和可及性，减少医院的挤兑现象。

　　全国政协常委周汉民在外滩大会的一场论坛中表示，随着人工智能等新技术的不断发展和应用，医疗产业正迎来一场深刻的变革。据他观察，从最初的影像诊断、辅助诊疗、基因检测，到近年来的药物发现、临床试验、健康管理等，人工智能在提高精准度与效率、个性化治疗、数据处理等方面具备显著优势。他指出，医疗健康与人工智能的融合还延伸到了中医领域。

　　谈及人工智能在医疗产业的应用情况，周汉民表示，人工智能在医疗健康产业的应用应着力提高精准性、适用性和安全性，此外，还需关注人工智能的引入是否会导致医护人员技能萎缩、对人工智能的信任的误判以及信息超载。

　　以AI对抗AI

　　在期待技术带来美好生活的同时，如何预防技术“作恶”也成为外滩大会讨论的热点话题。

　　今年的外滩大会上，举办了包括“afac2024金融智能创新大赛”和“全球Deepfake攻防挑战赛”两场子赛事在内的AI创新大赛，由于近日韩国曝出“Deepfake”（深度伪造技术）事件，被认为是采用新犯罪手段的“N号房”案件重现，以AI对抗AI，Deepfake攻防挑战赛尤其受到观众的挑战。

　　事实上，随着AI技术的发展，Deepfake滋生欺诈等黑色产业链，AI换脸欺诈带来的经济财产损失、名誉受损等事件正在成为全球挑战。

　　在外滩大会展区，许多观众现场拍照，然后利用Deepfake换脸模型和算法，通过视频活化、微笑和眼镜模版对观众的真实照片进行换脸，亲身感受了Deepfake的逼真。

　　而在外滩大会AI创新赛·全球Deepfake攻防挑战赛的表演赛上，观众更是为AI识别AIGC伪造图片感到激动。在这场表演赛中，主持人拿出了9张玛丽莲梦露等女星的照片，其中2张是AIGC伪造的，选手用自己的参赛模型给出每张图片的伪造概率值，并对概率值最高的2张照片与正确答案进行比对。最终，两支参赛队伍的模型都找到了正确答案。

　　在后续的互动中，一个有趣的现象是，人类肉眼能够看出“一眼假”的伪造图片，AI可能识别不出，一些肉眼真假难辨的图片，AI反而能识别。新加坡科技研究局周天異教授分析，人类在判断图像是否伪造会依赖直觉和逻辑，一些人类一眼便知的问题AI无法联系相关背景、情形无法识别，而一些难以识别的图片，AI一丝不苟、勤勤恳恳地完成人类指令的工作模式反而能找出问题。他表示，相比“一眼假”的图片，恰恰是这些难以识别的图片往往给人类带来更大损失，因此，用AI应对Deepfake有着重要意义。

　　“从我们现在看到的数据来看，我们叫Deepfake的攻击也好，AIGC的生成伪造，今年的攻击量比去年大概增加了10倍，去年攻击的浓度大概是1%，今年就是10%。整个风险其实是呈指数级上升的情况，这不仅仅是在中国，在韩国，在菲律宾、印尼等国家都有类似的情况发生。”外滩大会AI创新赛·全球Deepfake攻防挑战赛出题人、ZOLOZ技术总监姚伟斌表示，10%的浓度意味着业界发现线上的流量有10%是Deepfake的流量，随着AIGC的发展，生成的成本会越来越低，效率越来越高，明年可能不是20%，可能是50%，这是一个必须重视的威胁。

　　更多引导AI向善的观点也在外滩大会被讨论，姚伟斌坦言，研发检测算法，只是遏制Deepfake技术滥用的方式之一。这种方式是相对滞后的。如果要从根源上防范欺诈行为，姚伟斌认为应在标准和立法角度，要求给A IGC 内容建立通用标识，比如每一张AIGC生成的视频或图片都在文件信息里带一个签名或水印，这样平台管理更有依据，也能让AIGC 可以更可信。

　　“让人工智能帮助人弹钢琴，而不是作恶。”是本届外滩大会反复强调的价值观。上海市数据科学重点实验室主任肖仰华表示，AI的大规模滥用是可能损害人之为人的本性的。要有所为有所不为，但凡伤害人之为人之本性的AI应用，我们要谨慎，要加以限制。为此，“我们要重视技术治理，并将治理提前考虑，做到未雨绸缪。”

　　浙江强脑科技创始人兼CEO韩璧丞则表示，AI伦理委员会的存在非常重要。技术前进的时候，更应该关注“走的慢”的人。“当一个足以改变世界的技术出现时，我们先用它来帮助最需要的人”。

　　（本文来自第一财经）

阅读全文
发布于 2024-09-08 04:09:05
收藏
分享
海报
70 条评论
199
目录

    推荐阅读

    70 条评论

    你 请文明发言哦~
    • 游客
      游客 回复 1周前

      楼上的真不讲道理！http://www.guangcexing.net/voddetail/EEyuUKrgNP.html

    • WPS下载
      WPS下载 回复 1周前

      论坛的帖子越来越有深度了！https://www.wpsfe.com

    • 指尖网
      指尖网 回复 1周前

      楼主的头像能辟邪啊！http://shez53.sxlkzx.cn

    • 游客
      游客 回复 1周前

      东方不败还是灭绝师太啊？http://www.guangcexing.net/voddetail/vFUQEdmSUbF.html

    • 游客
      游客 回复 1周前

      对牛弹琴的人越来越多了！http://www.guangcexing.net/voddetail/FxsmmjtmuKgdX.html

    • 游客
      游客 回复 1周前

      顶！顶！顶！http://www.guangcexing.net/voddetail/dcfFjrcVtr.html

    • 游客
      游客 回复 1周前

      鉴定完毕！https://weibo.com/tv/show/1034:5075918981365857

    • 游客
      游客 回复 1周前

      东方不败还是灭绝师太啊？http://www.guangcexing.net/voddetail/cqUBePVvWj.html

    • 指尖站群
      指尖站群 回复 1周前

      你觉得该怎么做呢？http://www.france-photos.com/

    • 游客
      游客 回复 1周前

      以后要跟楼主好好学习学习！http://www.guangcexing.net/voddetail/WVrNeSzeX.html

    • 游客
      游客 回复 1周前

      不是惊喜，是惊吓！http://www.guangcexing.net/voddetail/weMHAkGuzry.html

    • 指尖站群
      指尖站群 回复 1周前

      楼主内心很强大！http://www.nonauxsubventions.com/

    • 游客
      游客 回复 1周前

      楼主你想太多了！http://www.guangcexing.net/voddetail/KmNpYuwR.html

    • 游客
      游客 回复 1周前

      这个帖子好无聊啊！http://bgx.bbgfac.cn

    • 游客
      游客 回复 1周前

      十分赞同楼主！http://www.guangcexing.net/voddetail/CjggGSfj.html

    • 游客
      游客 回复 1周前

      态度决定一切，不错！http://www.guangcexing.net/voddetail/VhgHAtFSgRVK.html

    • 游客
      游客 回复 1周前

      楼主是在找骂么？http://www.guangcexing.net/voddetail/VhgHAtFSgRVK.html

    • 游客
      游客 回复 1周前

      灌水不是我的目的！http://www.guangcexing.net/voddetail/KrNPypUKQTSMh.html

    • 游客
      游客 回复 1周前

      缺乏激情了！http://www.guangcexing.net/voddetail/thyJZrgAfdnxa.html

    • 游客
      游客 回复 1周前

      这里的资源非常丰富，帮助我解决了很多问题。http://www.guangcexing.net/voddetail/ABfwAsQeR.html

    • 游客
      游客 回复 1周前

      雷锋做好事不留名，都写在帖子里！http://www.guangcexing.net/voddetail/BDwpBNfwVRgEP.html

    • 游客
      游客 回复 1周前

      楼主说的我也略懂！http://www.guangcexing.net/voddetail/hPEbeWxyzfUp.html

    • 游客
      游客 回复 1周前

      楼主好聪明啊！http://www.lw400.com/post/236.html

    • 游客
      游客 回复 1周前

      吹牛的人越来越多了！http://www.guangcexing.net/voddetail/BhUmJZWpFf.html

    • 指尖网
      指尖网 回复 1周前

      楼上的很有激情啊！http://www.shandongmingsheng.com/

    • 游客
      游客 回复 1周前

      不错哦，楼主这是要火的节奏啊！http://www.guangcexing.net/voddetail/vaTmGdknE.html

    • 游客
      游客 回复 1周前

      学习雷锋，好好回帖！http://www.guangcexing.net/voddetail/qqXeEVZkfrx.html

    • 游客
      游客 回复 1周前

      楼主该去看心理医生了！http://www.guangcexing.net/voddetail/qqXeEVZkfrx.html

    • 游客
      游客 回复 1周前

      很有看点！http://www.lw400.com/post/242.html

    • 游客
      游客 回复 1周前

      管它三七二十一！http://www.guangcexing.net/voddetail/zZCwpagCEK.html

    • 游客
      游客 回复 1周前

      内容很有深度！http://www.guangcexing.net/voddetail/dqgnZsqVRU.html

    • 游客
      游客 回复 1周前

      不是惊喜，是惊吓！http://www.guangcexing.net/voddetail/CfqrxsWTVQFyp.html

    • 游客
      游客 回复 1周前

      怪事年年有，今年特别多！http://www.guangcexing.net/voddetail/CfqrxsWTVQFyp.html

    • 游客
      游客 回复 1周前

      楼上的心情不错啊！http://www.guangcexing.net/voddetail/EaycPtaczu.html

    • 游客
      游客 回复 1周前

      没人理我，好伤心啊！http://www.guangcexing.net/voddetail/BnaZDzDey.html

    • 游客
      游客 回复 1周前

      强，我和我的小伙伴们都惊呆了！http://hklhi2.bbgfac.cn

    • 游客
      游客 回复 1周前

      宇宙第一贴诞生了！http://ujao.wn-auto.cn

    • 游客
      游客 回复 1周前

      楼主人气很旺！http://www.guangcexing.net/voddetail/WHEzaCRsFrQ.html

    • 游客
      游客 回复 1周前

      好无聊啊！http://www.guangcexing.net/voddetail/HpMKKqNKJVzr.html

    • 指尖站群
      指尖站群 回复 1周前

      我对楼主的敬仰犹如滔滔江水绵延不绝！http://ihame.muebles-rusticos.com

    • 游客
      游客 回复 1周前

      很有品味！http://www.guangcexing.net/voddetail/fjmKeweWCAUaB.html

    • 游客
      游客 回复 1周前

      楼主是我最崇拜的人！http://www.guangcexing.net/voddetail/qCtMnGKEEXk.html

    • 游客
      游客 回复 1周前

      楼主加油，看好你哦！http://www.zhufeng1919.com/sites/974.html

    • 游客
      游客 回复 1周前

      祖国尚未统一，我却天天灌水，好内疚！https://www.gumua.com/play/131186.html

    • 游客
      游客 回复 1周前

      大神就是大神，这么经典！http://www.guangcexing.net/voddetail/aCbKUTtUGXyh.html

    • 游客
      游客 回复 1周前

      知识就是力量啊！http://www.guangcexing.net/voddetail/aCbKUTtUGXyh.html

    • 游客
      游客 回复 1周前

      楼主看起来很有学问！https://www.lianyungangjltrans.com/post/1486.html

    • 游客
      游客 回复 1周前

      这么经典的话只有楼主能想到！http://www.guangcexing.net/voddetail/Bjprrpe.html

    • 游客
      游客 回复 1周前

      终于看完了，很不错！http://f9t.https://www.weimaitu.com/

    • 游客
      游客 回复 1周前

      无图无真相！http://www.guangcexing.net/voddetail/WfuQVdwnvGWr.html

    • 游客
      游客 回复 1周前

      最近压力山大啊！http://www.guangcexing.net/voddetail/WfuQVdwnvGWr.html

    • 游客
      游客 回复 1周前

      楼主的文笔不错！https://www.lianyungangjltrans.com/post/882.html

    • 游客
      游客 回复 1周前

      我裤子脱了，纸都准备好了，你就给我看这个？http://www.zhufeng1919.com/963.htmll

    • 游客
      游客 回复 1周前

      雷锋做好事不留名，都写在帖子里！http://www.guangcexing.net/voddetail/GXkYPFpZsAywh.html

    • 游客
      游客 回复 1周前

      这位作者的文笔极其出色，用词精准、贴切，能够形象地传达出他的思想和情感。http://www.zhufeng1919.com/sites/912.html

    • 游客
      游客 回复 1周前

      感谢楼主的推荐！http://www.guangcexing.net/voddetail/WPXtwmPsVZHM.html

    • 游客
      游客 回复 1周前

      经典，收藏了！https://weibo.com/tv/show/1034:5076405948710963

    • 游客
      游客 回复 1周前

      楼上的真不讲道理！http://www.guangcexing.net/voddetail/CYbAwZvCfsSS.html

    • 游客
      游客 回复 1周前

      楼主发几张靓照啊！http://r51llt.https://www.weimaitu.com/

    • 游客
      游客 回复 1周前

      收藏了，很不错的内容！http://www.guangcexing.net/voddetail/XZxRKdbbey.html

    • 游客
      游客 回复 1周前

      写得实在太好了，我唯一能做的就是默默顶贴！http://www.guangcexing.net/voddetail/MUUWwWMD.html

    • 游客
      游客 回复 1周前

      赞一个！http://www.lw400.com/post/242.html

    • 游客
      游客 回复 1周前

      不是惊喜，是惊吓！http://www.guangcexing.net/voddetail/UsQFyCfKRSfgQ.html

    忘记密码？

    图形验证码