Chuyển ngữ: Sr. Maria Trần Thị Ngọc Hương
Theo the Word Among us
| This Is Only the Beginning
On the Risks and Benefits of Artificial Intelligence Hollywood has been preparing us to fear artificial intelligence for years now. The Terminator franchise was built around the idea that an artificial intelligence (AI) system called Skynet could decide to wipe out humanity. This and a hundred other sci-fi movies have foretold the risks of a technology built by human arrogance that overthrows its master. It was a vision of the future that we liked to scare ourselves with. With the real-world advent of AI, the future has arrived. Unimaginable sums of money are being spent to develop and propagate such systems as OpenAI’s ChatGPT, Anthropic’s Claude, Google’s Gemini, Meta’s Llama, and Microsoft’s Copilot. AI’s impact is just beginning to be felt in our schools, our workplaces and our personal lives. The Risks and Benefits. “In recent years, it has become increasingly evident how rapidly and profoundly digitalization, artificial intelligence (AI), and robotics are transforming our world,” wrote Pope Leo XIV at the start of his first encyclical, Magnifica Humanitas (On Safeguarding the Human Person in the Time of Artificial Intelligence) (4). The encyclical is a profound appeal to humanity to take seriously the risks as well as the benefits of this technology. At its heart, it is an attempt by the pope not only to “safeguard the human person,” but to affirm our indispensable and collective responsibility to control the technology we create and to make better the world we live in. It is fundamentally an encyclical about hope. The acceptance of AI by many is already evident. While individuals are using these systems to diagnose their health issues, to plan vacation routes, to receive counsel and to seek emotional support, businesses are looking at the implications in terms of cost reductions and competitive advantages. This is only the beginning. Our Responsibility to Safeguard Humanity. Pope Leo identifies the brave new world we have already entered, in which even the supposed masters of these systems are not fully in control. “Any statement regarding AI risks becoming quickly outdated, given the remarkable pace at which these systems are developing,” he writes. “All of us, including those who design them, possess only a limited understanding of their actual functioning. Indeed, current AI systems are more ‘cultivated’ than ‘built,’ for developers do not directly design every detail, but instead create a framework within which the intelligence ‘grows’” (98, emphasis added). The pope remarks that these enormous systems are being created with little guidance from public institutions. Powerful private companies that often have more money and resources than many nation states are making the decisions, “which makes it even more challenging to discern, govern and direct such power toward the common good” (5). This is significant, in that “technology is never neutral, because it takes on the characteristics of those who devise, finance, regulate and use it” (9). The question must be asked: Are those who create these systems focused only on power and profit, or are they guided by a concern for humanity and the common good? For Pope Leo, already there are three immediate characteristics of AI worthy of concern: “The ease with which results are obtained, the impression of objectivity and the simulation of human communication” (100). The ease in obtaining results can lull humans into passivity. The impression of some sort of objective weighing of values and options can be dangerously misleading. And AI’s ability to mimic human speech can fool humans into creating the illusion of a relationship with a real personal subject. “The artificial imitation of care or support can become particularly risky when it enters contexts where real relationships and emotional bonds are lacking,” Leo writes. “Here, the danger is not so much that a person may believe they are communicating with another person, but rather that they may gradually lose the very desire to form genuine human connections” (100). The promise and the peril of AI are profound, and history suggests, in the words of Romano Guardini, that “contemporary man has not been trained to use power well” (93). But Pope Leo argues that the responsibility for these systems remains ours: “I encourage all members of the Church not to be afraid of the present challenges, but to listen to one another and firmly embrace their responsibilities in building a more humane and fraternal society” (91). The Limits of AI. It is critical for us to remember what it means to be human, and that AI is not. We cannot confuse AI’s functions as equivalent to human intelligence, the Pope warns. While there are certain tasks that AI will be able to do faster and more efficiently than humans can, “this power remains entirely tied to data processing” (99). “So-called artificial intelligences do not undergo experiences, do not possess a body, do not feel joy or pain, do not mature through relationships and do not know from within what love, work, friendship or responsibility mean,” Pope Leo writes. “Nor do they have a moral conscience, since they do not judge good and evil, grasp the ultimate meaning of situations, or bear responsibility for consequences. They may imitate language, behavior and analytical skills, or even simulate empathy and understanding, but they do not understand what they produce, for they lack the affective, relational and spiritual perspective through which human beings grow in wisdom” (99). In contrast, Leo points out, “At the heart of the Christian understanding of the human person lies the great biblical affirmation that men and women are created in the image and likeness (cf. Gen 1:26-27) of the Triune God” (50). “Created for relationship, every human person is planned and willed by God to enter into communion with him, with others and with creation. Human dignity does not depend on a person’s abilities, wealth or position in life, nor on the right or wrong choices made; instead, it is a gift that precedes and transcends each person, endowed by God as an expression of his unfailing love” (50). It is individuals and their families who matter, the pope stresses. This is the bedrock for all Catholic social teaching regarding justice and the protection of the common good. When it comes to AI’s impact on society, the pope challenges us to be attentive and engaged. “In Christ, we are called to cooperate in the work of creation, rather than be disinterested observers of technological processes that limit our freedom and responsibility” (233). A Shared Responsibility. “We cannot allow a handful of actors to dictate these processes on their own,” the pope urges. He calls for cooperation between “various levels of the global community” in order to “make them jointly responsible for the common good” (72). What will this look like? “We believers must and can choose which projects to work on and in what manner, so as to safeguard and value the grandeur of humanity that has been given to us as a gift” (90). In the encyclical, the pope suggests projects where humanity must assert itself, including the need for human accountability with regard to AI (105). He calls for a rigorous evaluation process and even a slower pace when adopting AI (106), and a diminishment of the competitiveness among companies that risks overwhelming governments and those responsible for making sure the technology is safe (110). The pope also speaks of the impact of AI on education and on communications, particularly journalism and the power of AI to “affect the collective imagination and to present a particular vision of reality as desirable” (136). Its power to create “fake news” and propaganda is a serious threat. The challenges are real, but Pope Leo has faith that, at the dawn of the AI revolution, Christians have a necessary, even crucial, role to play in working with society to create appropriate guidelines and accountability. For Pope Leo, hope is an essential part of the Christian story. “Even in the darkest nights, the Lord raises up men and women who refuse to give up, who persevere in doing good, who protect the vulnerable and open pathways to reconciliation” (211). Guided by the Holy Spirit, the Church is appealing to all people of goodwill to assume an active role in shaping this “change of era,” not just for the few and powerful, but for all humanity. Let it be a tool to celebrate the “grandeur of humanity” (6, 90). ______ |
Đây Mới Chỉ Là Sự Khởi Đầu
Về những nguy cơ và ích lợi của Trí Thông Minh Nhân Tạo Trong nhiều năm qua, Hollywood đã chuẩn bị cho chúng ta đối diện với nỗi sợ trí tuệ nhân tạo. Loạt phim Kẻ Hủy Diệt (The Terminator) được xây dựng xoay quanh ý tưởng rằng một hệ thống trí tuệ nhân tạo (AI) được gọi là Skynet có thể đi đến quyết định tiêu diệt toàn thể nhân loại. Điều này và hàng trăm bộ phim khoa học viễn tưởng khác, đã báo trước những nguy cơ của một nền công nghệ do sự kiêu ngạo của con người tạo ra, rồi quay lại lật đổ chính người đã tạo ra nó. Đó là một viễn cảnh tương lai mà chúng ta thích dùng để tự hù dọa chính mình. Với sự xuất hiện của trí tuệ nhân tạo trong thế giới thực, tương lai ấy nay đã trở thành hiện thực. Những khoản tiền khổng lồ không thể tưởng tượng nổi đang được chi ra để phát triển và phổ biến các hệ thống như ChatGPT của OpenAI, Claude của Anthropic, Gemini của Google, Llama của Meta và Copilot của Microsoft. Tác động của trí tuệ nhân tạo chỉ mới bắt đầu được cảm nhận trong trường học, nơi làm việc và trong đời sống cá nhân của chúng ta. Những Nguy Cơ và Lợi Ích. Trong phần mở đầu thông điệp Magnifica Humanitas (Bảo vệ phẩm giá con người trong thời đại trí tuệ nhân tạo) của mình, Đức Giáo Hoàng Leo XIV đã viết: “Trong những năm gần đây, ngày càng trở nên rõ ràng rằng quá trình số hóa, trí tuệ nhân tạo (AI) và robot đang làm biến đổi thế giới chúng ta một cách nhanh chóng và sâu sắc đến mức nào” (Thông điệp Magnifica Humanitas, số 4). Thông điệp là một lời mời gọi sâu sắc đối với toàn thể nhân loại nghiêm túc nhìn nhận những nguy cơ cũng như những lợi ích của công nghệ này. Trọng tâm của thông điệp này không chỉ là nỗ lực của Đức Giáo hoàng để “bảo vệ con người”, nhưng còn để khẳng định trách nhiệm chung không thể thiếu của tất cả chúng ta trong việc kiểm soát công nghệ do chính mình tạo ra và góp phần làm cho thế giới chúng ta đang sống trở nên tốt đẹp hơn. Về căn bản, đây là một thông điệp về niềm hy vọng. Việc AI được đông đảo mọi người đón nhận đã là điều hiển nhiên. Trong khi các cá nhân đang sử dụng những hệ thống này để chẩn đoán các vấn đề sức khỏe, lên kế hoạch cho những chuyến đi nghỉ dưỡng, tiếp nhận lời khuyên và tìm kiếm sự hỗ trợ về mặt tình cảm, thì các doanh nghiệp lại đang xem xét những tác động của AI xét về phương diện cắt giảm chi phí và tạo ra lợi thế cạnh tranh. Đây mới chỉ là khởi đầu. Trách Nhiệm của Chúng Ta trong việc Bảo Vệ Nhân Loại. Đức Giáo hoàng Leo nhận định rằng chúng ta đã bước vào thế giới mới đầy táo bạo, trong đó ngay cả những người được cho là chủ nhân tạo ra những hệ thống này cũng không hoàn toàn kiểm soát được chúng. Đức Giáo hoàng viết: “Bất kỳ tuyên bố nào liên quan đến AI đều có nguy cơ nhanh chóng trở nên lỗi thời, xét theo tốc độ đáng kinh ngạc mà các hệ thống này đang phát triển. Tất cả chúng ta, bao gồm cả những người thiết kế ra chúng, chỉ sở hữu một sự hiểu biết giới hạn về hoạt động thực tế của chúng. Thật vậy, các hệ thống AI hiện tại mang tính được “nuôi dưỡng” hơn là được “xây dựng,” vì các nhà phát triển không trực tiếp thiết kế từng chi tiết, mà thay vào đó là kiến tạo một khuôn khổ bên trong đó trí tuệ “phát triển” (Thông điệp Magnifica Humanitas, số 98). Đức Giáo hoàng lưu ý rằng những hệ thống khổng lồ này đang được tạo ra với rất ít sự hướng dẫn của các cơ quan công quyền. Các công ty tư nhân có quyền lực thường có nhiều tiền và nguồn lực hơn nhiều quốc gia đang đưa ra những quyết định, “điều làm cho việc phân định, quản trị và định hướng quyền lực đó về lợi ích chung càng trở nên thách đố hơn.” (Thông điệp Magnifica Humanitas, số 5). Điều này có ý nghĩa quan trọng, bởi vì “công nghệ không bao giờ trung lập, vì nó mang những đặc tính của những người thiết kế, tài trợ, điều tiết và sử dụng nó” (Thông điệp Magnifica Humanitas, số 9). Cần phải đặt ra câu hỏi: Phải chăng những người tạo ra các hệ thống này chỉ tập trung vào quyền lực và lợi nhuận, hay họ được định hướng bởi mối quan tâm đến nhân loại và công ích? Theo Đức Giáo hoàng Leo, trước mắt có ba đặc điểm của AI đáng để quan tâm: “Sự dễ dàng trong việc đạt được kết quả, cảm giác khách quan mà các hệ thống ấy tạo ra, và khả năng mô phỏng giao tiếp của con người.” (Thông điệp Magnifica Humanitas, số 100). Việc dễ dàng đạt được kết quả có thể khiến con người mất cảnh giác và rơi vào thế bị động. Cảm tưởng rằng có một sự cân nhắc khách quan nào đó về các giá trị và những lựa chọn có thể dẫn đến những hiểu lầm hết sức nguy hiểm. Đồng thời, khả năng bắt chước lời nói của con người nơi AI có thể đánh lừa con người, khiến họ tạo ra ảo tưởng rằng mình đang có một mối tương quan với một chủ thể nhân vị đích thực. Đức Giáo hoàng Leo viết rằng: “Việc mô phỏng một cách nhân tạo sự quan tâm hay nâng đỡ càng trở nên nguy hiểm khi nó xuất hiện trong những hoàn cảnh thiếu vắng các mối tương quan thực sự và những gắn kết tình cảm chân thành. Ở đây, nguy cơ không chỉ nằm ở việc một người có thể tin rằng mình đang giao tiếp với một con người thực sự, nhưng còn ở chỗ người ấy dần dần đánh mất chính khát vọng hình thành những tương quan nhân bản đích thực.” (Thông điệp Magnifica Humanitas, số 100). Những triển vọng đầy hứa hẹn cũng như những nguy cơ tiềm ẩn của AI đều hết sức sâu rộng. Lịch sử cho thấy, như lời Romano Guardini: “Con người đương đại đã không được huấn luyện để sử dụng quyền lực một cách tốt đẹp.” Tuy nhiên, Đức Giáo hoàng Leo khẳng định rằng trách nhiệm đối với những hệ thống này thuộc về chúng ta: “Tôi khuyến khích tất cả các thành viên của Giáo hội đừng sợ hãi trước các thách đố hiện tại, nhưng hãy lắng nghe lẫn nhau và kiên định đón nhận các trách nhiệm của mình trong việc xây dựng một xã hội mang tính người hơn và huynh đệ hơn.” (Thông điệp Magnifica Humanitas, số 91). Những Giới Hạn của AI. Điều chính yếu là chúng ta phải ghi nhớ ý nghĩa của việc làm người và nhớ rằng AI không phải là con người. Đức Giáo hoàng cảnh cáo chúng ta không thể lẫn lộn, nhầm lẫn những chức năng của AI với trí tuệ của con người, như vẻ chúng tương đương nhau. Cho dẫu AI có thể thực hiện một số công việc cách nhanh chóng và hiệu quả hơn con người, nhưng “quyền năng này hoàn toàn bị trói buộc vào việc xử lý dữ liệu.” (Thông điệp Magnifica Humanitas, số 99). Đức Giáo hoàng Leo viết: “Cái gọi là các trí tuệ nhân tạo không trải qua các kinh nghiệm sống, không sở hữu một thân thể, không cảm nhận niềm vui hay nỗi đau, không trưởng thành qua các mối tương quan và không biết từ bên trong thế nào là tình yêu, công việc, tình bằng hữu hay trách nhiệm. Chúng cũng không có một lương tâm luân lý, vì chúng không phán xét thiện và ác, nắm bắt ý nghĩa tối hậu của các tình huống, hay mang trách nhiệm cho các hệ quả. Chúng có thể bắt chước ngôn ngữ, hành vi và các kỹ năng phân tích, hoặc thậm chí mô phỏng sự thấu cảm và sự hiểu biết, nhưng chúng không hiểu những gì chúng sản xuất ra, vì chúng thiếu vắng viễn cảnh cảm xúc, tương quan và tâm linh qua đó con người tăng trưởng trong sự khôn ngoan.” (Thông điệp Magnifica Humanitas, số 99). Trái lại, Đức Leo chỉ ra rằng: “Ở tâm điểm của sự hiểu biết Kitô giáo về con người là lời khẳng định lớn lao mang tính Kinh Thánh rằng con người nam nữ được tạo dựng theo hình ảnh và họa ảnh (x. St 1,26-27) của Thiên Chúa Ba Ngôi.” (Thông điệp Magnifica Humanitas, số 50). “Được tạo dựng để tương quan, mỗi nhân vị đều được Thiên Chúa hoạch định và muốn cho bước vào sự hiệp thông với Ngài, với người khác và với công trình tạo dựng. Phẩm giá con người không phụ thuộc vào khả năng, sự giàu có hay địa vị của một người trong cuộc sống, cũng không phụ thuộc vào những chọn lựa đúng hay sai được đưa ra; thay vào đó, đó là một hồng ân đi trước và vượt lên trên mỗi người, được Thiên Chúa ban tặng như một sự biểu lộ tình yêu không hề lay chuyển của Ngài.” (Thông điệp Magnifica Humanitas, số 50). Đức Giáo hoàng nhấn mạnh rằng chính các cá nhân và gia đình của họ mới là điều quan trọng. Đây chính là nền tảng vững chắc cho toàn bộ giáo huấn xã hội Công giáo về công lý và việc bảo vệ công ích. Khi nói đến tác động của AI đối với xã hội, Đức Giáo hoàng thôi thúc chúng ta hãy quan tâm và tích cực dấn thân. “Trong Đức Kitô, chúng ta được kêu gọi để hợp tác trong công trình tạo dựng, chứ không phải là các quan sát viên thờ ơ, không quan tâm đến các tiến trình công nghệ vốn giới hạn tự do và trách nhiệm của chúng ta.” (Thông điệp Magnifica Humanitas, số 233). Một Trách Nhiệm Được Chia Sẻ. Đức Giáo hoàng nhấn mạnh: “Chúng ta không thể để cho một nhóm nhỏ các tác nhân tự mình quyết định và chi phối các tiến trình này.” Ngài mời gọi sự cộng tác giữa “các cấp độ khác nhau của cộng đồng toàn cầu” để “làm cho họ cùng chịu trách nhiệm chung vì ích chung.” (Thông điệp Magnifica Humanitas, số 72). Điều này sẽ như thế nào? “Các tín hữu chúng ta phải và có thể chọn lựa những dự án nào để làm việc và theo cách thức nào, hầu bảo vệ và trân trọng tầm vóc cao cả của nhân loại vốn đã được ban tặng cho chúng ta như một hồng ân” (Thông điệp Magnifica Humanitas, số 90). Trong thông điệp, Đức Giáo hoàng gợi ý những dự án trong đó nhân loại phải tự khẳng định chính mình, bao gồm cả nhu cầu về trách nhiệm giải trình đối với AI (x. Thông điệp Magnifica Humanitas, số 105). Ngài mời gọi thiết lập một tiến trình đánh giá nghiêm ngặt và thậm chí một nhịp độ chậm hơn khi đón nhận AI (x. Thông điệp Magnifica Humanitas, số 106), và giảm bớt các cạnh tranh giữa các công ty, vốn có nguy cơ gây quá tải cho các chính phủ và những người chịu trách nhiệm bảo đảm cho công nghệ được an toàn (x. Thông điệp Magnifica Humanitas, số 110). Đức Giáo hoàng cũng đề cập đến tác động của AI đối với giáo dục và lĩnh vực truyền thông, đặc biệt báo chí cũng như khả năng của AI trong việc “tác động đến trí tưởng tượng tập thể và trình bày một tầm nhìn cụ thể về thực tại như một điều đáng mong muốn” (Thông điệp Magnifica Humanitas, số 136). Khả năng tạo nên “tin giả” và tuyên truyền của AI là một mối đe dọa nghiêm trọng. Những thách đố này là có thật, nhưng Đức Giáo hoàng Lêô tin tưởng rằng, ngay từ buổi đầu của cuộc cách mạng AI, các Kitô hữu có một vai trò cần thiết, thậm chí mang tính then chốt, trong việc cộng tác với xã hội để xây dựng những hướng dẫn thích hợp và cơ chế quy trách nhiệm rõ ràng. Đối với Đức Giáo hoàng Leo, hy vọng là một phần quan trọng của lịch sử Kitô giáo. “Ngay cả trong những đêm tối tăm nhất, Thiên Chúa vẫn cho trỗi dậy những người nam nữ không chịu bỏ cuộc, luôn kiên tâm thực thi điều lành, che chở những người yếu thế và mở ra những con đường dẫn tới sự hòa giải.” (Thông điệp Magnifica Humanitas, số 211). Được Chúa Thánh Thần hướng dẫn, Giáo Hội đang mời gọi tất cả mọi người thành tâm thiện chí đảm nhận một vai trò chủ động, tích cực trong việc định hình “cuộc thay đổi thời đại”, không chỉ vì một số ít người có quyền lực, nhưng vì tất cả nhân loại. Hãy để trí tuệ nhân tạo trở nên một công cụ để phục vụ cho “tầm vóc cao cả của cả nhân loại” (Thông điệp Magnifica Humanitas, số 6.90). ______ |
