江晓原-为何人工智能必将威胁我们的文明丨N-Talk

2023-12-30 10:37:1812:09 6.2万

声音简介

（本内容来源于南方周末主办的大型品牌活动“N-Talk”演讲秀，如有侵权或其他问题请联系南方周末工作人员。）

科学已经告别纯真年代

以前曾经有过科学的纯真年代，那个时候也许可以认为科学是“自然而然”产生的，但是今天科学早就告别了纯真年代，今天科学是跟资本密切结合在一起的。所有的这些活动，包括研发人工智能，背后都有巨大商业利益的驱动。
谈到科学和资本结合在一起，我总要提醒大家重温马克思的名言：资本来到世间，每个毛孔都滴着浓血和肮脏的东西。对于和资本密切结合在一起的科学，我们的看法就应该和以前不同了。
我们以前一直有一个说法：科学没有禁区。这个说法是很多人都习惯的，但是现在对于这个说法，科学界的很多人已经开始有新的认识。比如说曾任北大校长的许智宏院士，前不久就对媒体表示：我们以前一直说科学没有禁区，但现在看来，科学研究仍然有着不可逾越的红线。他是在说生物技术的某些应用时说的，“不可逾越的红线”当然就是禁区了。
如果表述得稍微完备一点，我们可以说，在每一个特定的时期里，科学都应该有它的禁区，这个禁区可以在不同的时期有所改变。比如说某项技术，当人类社会已经准备好了，我们已经有成熟的伦理或者比较完备的法律来规范它的时候，我们也许可以开放这个禁区，说这个事情现在可以做了。但是没准备好的事情，现在把它设为禁区是应该的，这个禁区也应包括科学技术的高低维度，高到一定程度就有可能变成禁区，不应该再继续追求了。