Ʒ
ڵλ: > ŷֹٷվ > üɺ׼Σ ΪʽAIƥϡ

üɺ׼Σ ΪʽAIƥϡ

ʱ:2023-03-04 19:12 Դ:δ֪ :admin :

用技术和法规防控伦理风险 为生成式AI这匹“黑马€套上€缰绳€?

€€转自:科€日报

€€€方面,生成式AI固然便利了生产€生活,带动了社会的进步;另€方面,生成式AI可能会被人们无意滥用,甚至被目的不纯之人恶意利用,对社会造成危害。€€闫€?北京理工大学网络与安全研究所€?/p>

€€谈到AI领域的未来发展,就不得不提到生成式AI。如今,€经推出就迅€在各大社交媒体上走红的、由美国人工智能公司OpenAI发布的聊?a href=https://finance.sina.com.cn/realstock/company/sz300024/nc.shtml class="keyword" target=_blank data-sudaclick="content_marketkeywords_p">机器?/a>ChatGPT便是€种生成式AI?/p>

€€近日,OpenAI又以“区分人工编写还是AI生成的文本€为目的,趁热打铁地推出了一款AI€测器?/p>

€€滥用生成式AI可能带来哪些危害?AI€测器对于消除此种危害有何助益?如何利用包括AI€测器在内的多种手段,在推进生成式AI产业化的同时,促进生成式AI的规范使用?针对上述问题,科€日报记€采访了相关专家?/p>

€€生成式AI是把双刃?/font>

€€“€常来说,生成式AI是指使用机器学习等各种AI算法,让人工智能能够利用数据进行学习,进而创建或生成全新的原创内容的€种技术€€北京理工大学网络与安全研究€€长闫€志表示,“目前,生成式AI能生成文本€图像€音频€视频或代码等多模€的原创内容。€?/p>

€€ChatGPT作为€款人工智能技术驱动的自然语言处理工具,€过学习和理解人类的自然语言来进行对话,并能根据对话的上下文与人类进行相应的互动。与此前同类型的″不同,ChatGPT不仅在对话的真实感与流畅性上取得了很大的提升,更在互动€上几乎“无出其右€€?/p>

€€以ChatGPT的í空出世为代表,生成式AI在技术上的不断突破,正驱动着全球生成式AI产业的加速发展€优€的生成式AI有望成为新一代智能助手与信息€索工具,其不仅可以带动科€研发、工业设计等领域的深刻变革,还能在艺术和内容创作等的过程中减少以€调色、勾画轮廓等繁琐的程序€工作,极大地推动各类数字化内容的生产与创€€随€产业集群效应的进€步扩大,生成式AI正迅速成为全球科€领域€具投资价值的热门赛道,极大地影响了全球的科技创新与产业发展格€?/p>

€€然€,随着生成式AI的爆火,其安全€也遭到了质疑€近日,€份关于ChatGPT的报告显示,?00名IT行业决策者中近一半的人认为,2023年内,将会出现个人恶意使–hatGPT发动的网络攻击€无独有偶,此前的AI绘画等其他生成式AI同样遭受过相应的质疑?/p>

€€“生成式AI是一个€可怕的好东西€€€闫€志表示,“一方面,生成式AI固然便利了生产€生活,带动了社会的进步;另€方面,生成式AI可能会被人们无意滥用,甚至被目的不纯之人恶意利用,对社会造成危害。€?/p>

€€闫€€志进€步解释道,生成式AI能够产出逼真的文本€图像€音频€视频等内容,可能会被滥用于诈骗、欺诈€剽窃€€谣、伪造身份等不当甚至违法的场景€?/p>

€€“以AI€测AI”避免技术滥?/font>

€€ChatGPT不仅能像人一样进行聊天对话,它还能根据用户的要求作诗、编代码,甚至写论文?/p>

€€正因如此,OpenAI近日还推出了AI€测器,其目的正是为了€测一段文本是否为AI生成,从而帮助人们更好地识别文本来源,避免AI文本生成器被滥用,€成€系列不好的影响€?/p>

€€“在很多场景下,对文本€图片等是否由AI生成进行识别是必要的。€这种识别所用到的检测工具,就是AI€测器。€闫€志说,€AI€测器在技术架构上与生成式AI类似,以生成式AI创作的内容与非生成式AI创作的内容作为数据进行训练,通过大量的训练数据来‘培养€识别能力€€?/p>

€€这种“以AI€测AI”的方式,充分发挥了AI学习的优势€?/p>

€€闫€€志表示,通常来说,目前的AI€测器并不会给出是或否的精确判断,而是根据置信度给出€很有可能€€可能€€不清楚”€不太可能€€非常不可能”等模糊判断,将€终评判权交由人类自身?/p>

€€然€,目前AI€测器的检测水平并不理想€闫€志说:€OpenAI研发的AI€测器的检测成功率仅为26%左右,还处于较低水平。€?/p>

€€据悉,OpenAI推出的AI€测器能较轻松地区分单独的人工编写文本和AI生成文本。然而,当人工编写文本与AI生成文本混合在一起时,该€测器就难以进行准确识别了?/p>

€€目前AI€测器的检测水平,显然无法有效解决滥用生成式AI带来的危害€€如果AI€测器的检测成功率能够得到较大提升,必将有助于解决目前使用生成式AI€带来的部分问题€但很显然,目前离达到这个目标,还有很长的路要走。€闫€志表示€?/p>

€€多管齐下促进生成式AI健康发展

€€在享受生成式AI€带来的巨大利好的同时,我们应该采取措施来规范其使用,而这些措施里,既包括AI€测器在内的各类技术手段,也包括制定相关规范€的政策法规?/p>

€€相关专家曾提出,生成式AI是由人类设计的€因此,人类也需要在生成式AI的程序中嵌入相应的限制手段,使它的行为以保障人类安全为底线€换句话说,就是要用优先级更高的€术规则去限制其他€术€?/p>

€€“ChatGPT规避€术伦理风险的方案大概就是遵循了这个€路。€€必驰科€′有限公司联合创始人兼首席科学家€上海交通大学教授俞凯解释道,€人类€过对一些特定的问题进行优先判断,并以此构建具有约束力的″,再让这个模型在ChatGPT的整个模型训练过程中发挥作用,以保证其回复符合人类伦理€此外,应该还有€些€兜底技术€,让ChatGPT对于€些敏感问题不予回复€€?/p>

€€闫€€志表示:“除了这些技术手段外,我们还€要明确界定生成式AI的应用场景和使用范围,并在必要的情况下向人们告知哪些内容是€过生成式AI生成的€€€过相关的技术规范,界定生成式AI的应用场景和使用范围,有利于保障生成式AI遵循相应的技术伦理要求€?/p>

€€除此之外,相关政策€法律法规的制定,也正在推动€生成式AI产业的健康有序发展€?/p>

€€据悉,国务院?017年发布了《新€代人工智能发展规划€,明‘“初步建立人工智能法律法规€伦理规范和政策体系,形成人工智能安全评估和管控能力”€国家新€代人工智能治理专业委员会也相继于2019年和2021年发布了《新€代人工智能治理原则€€发展负责任的人工智能€和《新€代人工智能伦理规范€€上述文件为我国目前生成式AI的发展提供了坚实的法律法规和标准保障?/p>

€€“我们应该完善生成式AI的法律监管机制,坚持正义的普适价值标准€安全的核心价€目标€创新的根本目的,构建相应的伦理规范体系。€首都经济贸易大学法学院诉讼与司法制度研究中心主任陈磊表示,“具体说来,法律监管可分为事前€事中€事后三个阶段€事前应注意预防,投资€在研发生成式AI之前,应向有关部门提交申请书,将其人工智能的主要内容进行阐述和备案;事中须加强管控,在发现生成式AI侵犯他人著作权或者内容涉及伦理道德不当时,应当及时进行管控;事后要注意监督,对相关侵权行为及时进行处罚,保障他人合法权益。€?/p>

€€“可以想见,未来生成式AI€术与监管的博弈必将展€。€闫€志表示€?/p>