关闭

当前位置:首页 > 服务体系 » 正文

专家:应立法规范人机视觉技术滥用

  中新社长沙9月9日电 (王昊昊)“人工智能的技术是中立的,应通过构建数字内容可信体系,制定相关法律,规范人机视觉技术滥用。”国防科技大学系统工程学院院长老松杨表示。

  7日至9日,2020互联网岳麓峰会在长沙举行,来自互联网行业、投资界、学术界的百余名专家共同论道5G应用、大数据、人工智能等的新发展。

  出席峰会的老松杨表示,近年来人工智能取得了举世瞩目的成就,从阿尔法狗完败人类顶级围棋高手,到美军的人工智能飞行员轻松击败美军王牌飞行员,再到各式各样的智能家居、智能安防出现,人工智能的应用已无处不在。

  “应用人工智能的同时,不应忽略其安全性问题。”老松杨举例说,近年来网络出现的教皇抽桌布、奥巴马溜滑板车、希拉里换脸特朗普等视频,都是人工智能伪造的,这些伪造视频是人工智能新能力的体现,也是其本身的脆弱性带来的安全性问题。

  “人机视觉技术的滥用一般有深度伪造和对抗样本技术,前者是基于人工智能的视频和图像的合成技术,能以假乱真,该技术正在挑战‘眼见为实’。”老松杨说,深度伪造是让人看错,而对抗样本技术的目标是让机器“看错”,基本原理是在原始图像上叠加增量和噪声,让机器学习的模型出错。

  “比如给一张熊猫图片加上噪音之后就变成了另外一个图像,在‘停车’的路标上加一些图像就变成了‘限速45’。”老松杨认为,这种滥用将带来严重的安全隐患。

  眼见未必为实,该怎么办?老松杨表示,有造假就应打假,国家层面需投入一定的财力、精力、人力打假。虽然人机视觉技术带来了一定安全隐患,但利大于弊,不能因为有安全隐患就不发展技术。未来一方面要继续发展技术,打造更加稳健的人工智能系统,一方面要着手立法规范、约束技术滥用。(完)

【编辑:梁静】
上一篇: 中马联办微视频大赛记录两国携手抗“疫”情
下一篇: 贵州划定1332个生态环境分区管控单元
说点什么吧
  • 全部评论(0
    还没有评论,快来抢沙发吧!
二维码