随着人工智能技术的飞速发展，其在经济、医疗、科技等领域的应用前景备受瞩目。然而，近期一份由美国政府委托，汇集了200余名专家智慧的报告，却给这一技术热潮泼了一盆冷水。报告指出，若不加以适当管控，AI的发展可能给人类社会带来“灭绝级威胁”。
这份报告的撰写历时超过一年，访谈对象包括了AI领域的顶尖企业高管、网络安全专家、核武器专家以及国家安全官员等。报告中明确提出，高级AI和人工通用智能（AGI）的崛起，可能会对全球安全构成前所未有的挑战，其影响可能与核武器的问世相提并论。专家们普遍担忧，随着AI技术的不断进步，未来可能出现无法控制的AI系统，这些系统一旦被用于军事领域，后果不堪设想。
报告中提到的AI“军备竞赛”、冲突以及可能发生的“大规模杀伤性武器级别的致命事故”，无疑给人们敲响了警钟。为此，报告建议美国政府应立即采取行动，包括成立新的AI监管机构、实施紧急监管措施，并对AI模型的训练用计算能力进行限制。
报告还指出，当前AI领域的竞争压力正在推动企业加速技术的开发进程，但这往往以牺牲安全性和保障性为代价。专家们担心，这种趋势可能导致最先进的AI系统被恶意利用，成为对国家安全的威胁。此外，报告还预测，AI技术的发展可能会带来全球性的网络攻击、虚假信息传播、无人机群攻击、心理操纵等一系列问题，这些问题的严重性不容忽视。
报告的作者们呼吁，美国政府有“明确和迫切的需要”进行干预，以确保AI技术的安全发展。他们建议限制AI的计算能力，并要求AI公司在部署新的模型时必须获得政府的许可。同时，报告还建议政府加强对AI芯片制造和出口的控制，以防止技术被滥用。
这份报告的发布，引起了业界和政府的广泛关注。Gladstone AI的首席执行官Jeremie Harris表示，AI技术已经展现出其在经济转型中的巨大潜力，它能够帮助人类治愈疾病、进行科学发现，并克服曾经认为不可能的挑战。但他同时警告，AI技术也带来了严重的风险，包括可能的灾难性后果，这一点我们必须保持清醒的认识。
白宫发言人Robyn Patterson也对此报告做出了回应，她表示，拜登总统的AI行政命令是全球范围内最重要的政府行动之一，旨在抓住AI带来的机遇并管理其风险。她还强调，总统和副总统将继续与国际伙伴合作，并敦促国会通过跨党派立法来管理新兴技术的风险。
这份报告为AI技术的发展提出了严峻的挑战，同时也为我们提供了一个反思的机会。在享受AI带来的便利和进步的同时，我们必须认识到其潜在的风险，并采取有效措施来确保技术的安全和可持续发展。这不仅是美国政府的责任，也是全球各国共同面临的课题。只有这样，我们才能确保AI技术成为人类社会的福音，而非灾难。
