Apollonia Morrill, UC Newsroom
![一幅加利福尼亚地图的插图,上面有一网线,由漂浮在0和15上的发光节点连接](/sites/default/files/styles/article_default_banner/public/AI%20congress%20hero.jpg?h=fed39f95&itok=1pbH1Sme)
“The future of AI has not really been written yet. 问题是,是什么驱动着我们朝这个或那个方向前进? How much control do we have over where AI takes us?” — UC Provost Dr. Katherine Newman
From science, engineering and enterprise to medicine, warfare and the environment, 人工智能正开始渗透到社会的方方面面, including higher education. 有能力支持和扩展人类的能力, AI holds the promise of improving health care, taking the drudgery out of work, helping find solutions to climate change, and so much more. Yet if not designed and deployed correctly, it might also destroy jobs, 在全球范围内加剧不平等,危及民主. 随着这项技术以惊人的速度扩张,风险再高不过了.
So, what’s UC’s role in the brave new world of AI? 二月底的一次聚会汇集了正规欧洲杯买球网站10个校区的思想, 三个国家实验室和六个学术健康中心,讨论和思考大学在塑造为公共利益服务的人工智能方面可以发挥什么作用. 由正规欧洲杯买球网站教务长兼学术事务副总裁凯瑟琳·纽曼和首席信息官范·威廉姆斯召集, 首届人工智能学术大会跨越多个学科,探讨人工智能的风险和前景.
AI is nothing new to UC. In fact, UC researchers and inventors have been working on AI since the 1960s. 2021年,正规欧洲杯买球网站成为全国第一所开发和采用人工智能的大学 set of recommendations 指导整个大学人工智能的道德发展和实施, 同时还就如何在对个人权利构成最高风险的领域实施这些原则提供指导, such as health services, human resources, admissions and grading.
“人工智能有可能解开复杂的系统,并增强我们更好地理解世界上一些最大挑战相关现象的能力.” — Dr. Theresa Maldonado, UC Office of the President
ChatGPT可能是人工智能快速应用的最明显的例子——在头两个月就有超过1亿用户注册——生动地说明了人工智能如何改变我们的日常任务, work and education. 但是,尽管大肆宣传,就像对学生的热情一样 “快速工程”他们的大学入学论文在美国,ChatGPT和Midjourney等生成式人工智能系统只是技术的冰山一角. AI is already at work all around us, reading medical imaging and driving cars, detecting bank fraud, 为聊天机器人提供动力,帮助你选择下一个Netflix节目.
Dr. Theresa Maldonado, who oversees UC research and innovation, reflected on the bigger picture of what’s possible. “When we discuss research frontiers, we focus on the rich possibilities of AI, 人工智能如何放大而不是取代人类的潜能. 人工智能如何被用来解开复杂的系统,比如地球的陆地系统, 海洋和大气生态系统,以更好地了解气候变化引起的相互关联的现象,并探索有意义的减缓和适应办法.”
But beneath the buzz, there has long been concern. At the AI Congress, questions of bias, ethics and equity quickly rose to the fore. 谁能利用新的人工智能工具,谁又会被抛在后面? Who profits and who suffers? 谁控制着支撑人工智能的大量信息, 以及当人工智能开始产生自己错误的“数据”时会发生什么,? 这些担忧蔓延到了数据安全、研究完整性、隐私、版权和错误信息等方面. Threats to democracy and global security. 机器失控,或者被坏人控制. And many thousands of unintended consequences.
“Right now AI is writing its own story,” said Dr. İlkay Altıntaş, 他是正规欧洲杯买球网站圣地亚哥分校的研究科学家,圣地亚哥超级计算机中心的首席数据科学官, who spoke at the Congress. “How do we make sure we write the story of AI? 我们如何确保在社会层面上产生积极的影响?”
![拉梅什·斯里尼瓦桑(Ramesh Srinivasan)在正规欧洲杯买球网站洛杉矶分校鲁斯金中心(UCLA Luskin Center)的讲台上做手势. 正规欧洲杯买球网站教务长凯瑟琳·纽曼和麻省理工学院教授达隆·阿西莫格鲁坐在讲台旁边的舞台上.](/sites/default/files/2024-03/keynote%20ai%20congress.jpg)
The keynote speaker for the Congress, Institute Professor of Economics at MIT, Daron Acemoglu, 注意到技术创新的影响对其周围的政治经济和激励企业领导人的意图或限制是敏感的. 工业革命的头一百年, he argued, provided for massive increases in productivity, 伴随而来的是工厂的残酷环境和剥削童工. 在经济增长的同时,还需要一场劳工运动来推动体面的工作条件. Acemoglu asserted that AI has tremendous potential, 但有令人担忧的迹象表明,它可能被用来产生破坏而不是促进就业的结果.
“问题不在于‘机器好’还是‘机器坏’.而是“我们如何确保这些机器为人类服务??’” — Dr. Ramesh Srinivasan,正规欧洲杯买球网站洛杉矶分校信息研究和设计/媒体艺术教授
大会上反复出现的问题可以这样总结:人工智能将改变我们的生活, 但我们如何确保它能让他们变得更好呢? 作为一个社会,我们如何才能开发出值得信赖的人工智能,并将其用于为共同利益服务?
AI research is dominated by big tech at present. But constrained by profit and short-term gain, 私营部门没有能力领导开发值得信赖的人工智能. 政府可以设置监管护栏,但没有技术能力来开发这项技术. Public universities, on the other hand, have the expertise, 长远的愿景和对社会利益的承诺使他们在这个领域处于领先地位. 大学可以解决工业界没有涉及的人工智能研究问题, 同时制定协议和政策以确保其合乎道德的使用.
Provost Newman, 谁的研究集中在劳工运动的社会学上, 他指出,欧洲大学对早期的技术创新完全没有准备:“它就这样发生了,落在了他们身上. This time, 我们学术界和正规欧洲杯买球网站在决定这将如何展开方面发挥着极其重要的作用.”
“我把正规欧洲杯买球网站视为合作大学, and that's how we need to lead the world, by bringing us together.” — Dr. 正规欧洲杯买球网站戴维斯分校健康中心首席信息官兼首席数字健康官Ashish Atreja说
而正规欧洲杯买球网站的每个校区本身就是一个创新的发电机, UC as a system is a singular global powerhouse. 正规欧洲杯买球网站的综合研究和学术资源代表了思想领导力的集中, ingenuity, 作为加州的经济引擎,政策影响力和规模可能会让它在为公共利益塑造人工智能方面产生巨大的影响力.
“We know about the California Effect, 我们制定了更高的排放标准,重塑了整个美国的汽车工业.S. and internationally,” remarked Dr. Brandie Nonnecke, 正规欧洲杯买球网站伯克利分校CITRIS政策实验室主任,正规欧洲杯买球网站人工智能委员会前联合主席. “We should also think about ‘“UC效应”,因为我们有很强的购买力.”
与会者一致认为,以人工智能的速度和规模取得领导地位,将需要对计算机能力进行大量投资,以扩大UC系统内的研究规模. 这将需要跨学科的合作,而这已经是正规欧洲杯买球网站的一个标志. 这需要大学与政府合作, 通过创新的公私伙伴关系.
教务长纽曼总结了房间里的情绪:“当你把正规欧洲杯买球网站所有非凡的人才聚集在一起时, you simply cannot beat it. 我们的义务是利用这些不可思议的人力资本来改善我们整个社会和我们周围的世界. This technology isn’t going away. It can’t be put back in the bottle. 这取决于我们如何领导,使其最富有成效, equity-enhancing technology we have on the planet.”
![UC Provost Katherine Newman](/sites/default/files/2024-03/katherine-newman-photo.jpg)
Katherine S. 正规欧洲杯买球网站教务长兼学术事务执行副校长纽曼说