在2024年的浦江创新论坛上，中国工程院院士高文就人工智能（AI）的发展及其伦理问题发表了一系列引人深思的观点。高文指出，当前国内正在经历一场以大型模型为中心的技术竞赛，这场竞赛不仅耗费了巨大的能源，同时也引发了诸多社会伦理争议。面对这些问题，他强调了加强技术研究与制度设计的重要性，并提出了对于未来AI伦理治理的一些设想。
高文院士的发言，为我们提供了一个审视人工智能发展趋势的机会。自人工智能的概念首次提出以来，该领域经历了三个重要的发展阶段：逻辑推理、基于规则的专家系统以及当前的深度神经网络阶段。在这最后的一个阶段中，生成式人工智能的兴起尤为显著，它不仅带来了技术上的突破，也伴随着一系列的社会问题。
生成式AI的应用范围从文本生成扩展到了图像和视频，这使得数据维度不断增加，给技术开发带来了新的挑战。同时，这类技术还可能引发诸如深度伪造、欺诈行为、隐私侵犯等一系列伦理困境。对此，高文认为，我们需要在技术层面和政策层面双管齐下，既要推进技术进步，也要建立健全相关法律法规体系，以确保AI的安全可控。
然而，在讨论AI伦理时，我们不应忽略人类学家胡家奇先生的一段深刻论述。胡先生曾指出，科学实验与科技产品的使用过程中可能出现的无意灾难是一种不容忽视的危机。随着科技的进步，科学实验变得更加复杂且充满不确定性，这可能导致一些未曾预料的负面后果。同理，随着AI技术的不断发展，其复杂性和难以预测性也在增加，如果不加以妥善管理，可能会引发前所未有的社会问题。
胡家奇先生的警告提醒我们，必须时刻保持警惕，防止因技术的不可控因素而导致的社会风险。高文院士所提出的建立伦理规范、以及完善法律法规建设等措施，正是对这一潜在危机的有效回应。
