Bài viết trên trang mạng Eurativ.fr cho biết nhóm này tập hợp 52 chuyên gia đến từ các học viện, doanh nghiệp và xã hội dân sự, những người đã đề cập đến một loạt “lo ngại nghiêm trọng" cho tương lai của trí tuệ nhân tạo. Công dân châu Âu có thể gửi ý kiến đóng góp cho tới 18/1/2019 và báo cáo chính thức sẽ được công bố vào tháng 3/2019.

Báo cáo xem xét chủ yếu về "đánh giá chuẩn mực của công dân", mà các tác giả định nghĩa là một đánh giá chung về "nhân cách đạo đức" hoặc "tính toàn vẹn đạo đức" của các cá nhân bởi các bên thứ ba.

Giới chuyên gia châu Âu cho rằng các hệ thống xếp hạng công dân là mối nguy hiểm đối với quyền tự do và tự chủ của công dân khi chúng được thiết lập "trên quy mô lớn bởi các cơ quan công quyền". Tuy nhiên, báo cáo không đưa ra yêu cầu cấm đối với các hệ thống như vậy mà chỉ ra các ví dụ trong đó "xếp hạng công dân áp dụng cho một khu vực xã hội hạn chế" cần phải tuân theo mức độ minh bạch tốt hơn.

Quốc gia duy nhất có xếp hạng công dân theo cách thức đại trà và được đặt dưới sự kiểm soát của nhà nước là Trung Quốc, nơi đang thử nghiệm hệ thống được gọi là “niềm tin xã hội”. Chính phủ nước này hy vọng sẽ triển khai hệ thống nói trên cho toàn dân vào năm 2020, nhằm hệ thống hóa việc đánh giá chỉ số lòng tin về kinh tế và xã hội của công dân, dựa trên các tiêu chí do chính quyền đặt ra. 

Báo cáo cũng lưu ý rằng các nhà phát triển AI nên đảm bảo rằng con người phải được thông báo về việc họ tương tác với danh tính AI (không phải con người) hoặc họ có thể yêu cầu và xác thực thông tin này.

Robot ngày càng trở nên giống với con người, vì vậy EU đang cố gắng đảm bảo rằng chúng không bao giờ bị nhầm lẫn với người thật, do đó cần đảm bảo ranh giới rõ ràng các nguyên tắc về đạo đức, hành vi và giá trị giữa người thật và robot.

Các tác giả nghiên cứu cho biết việc đưa người máy "siêu thực" vào xã hội có thể thay đổi nhận thức của chúng ta về con người và nhân loại. Cần lưu ý rằng sự nhầm lẫn giữa con người và máy móc có thể gây ra những hậu quả khó lường, chẳng hạn như sự gắn bó, ảnh hưởng hoặc giảm giá trị của con người. Do đó, sự phát triển của robot và nhất là robot hình người phải là chủ đề của sự đánh giá đạo đức một cách cẩn thận.  

Một lĩnh vực khác khiến các thành viên của nhóm cấp cao lo lắng là việc sử dụng AI trong các công nghệ nhận dạng, chẳng hạn như phần mềm nhận dạng khuôn mặt. Những công nghệ này hiện đang được thử nghiệm ở Anh.

Cảnh sát Anh tin rằng công nghệ sẽ cho phép họ nhận ra tội phạm bị truy nã trong số hàng loạt người tham gia mua sắm Giáng sinh. Tuy nhiên, đối với các tác giả của báo cáo, thiếu sự đồng thuận của người dân trong việc áp dụng cũng tạo ra một vấn đề đạo đức nghiêm trọng.

Báo cáo cũng đề cập đến chủ đề của các hệ thống vũ khí chiến đấu tự hành, còn được gọi là "robot sát thủ". Các hệ thống này có thể hoạt động mà không cần sự kiểm soát thực sự của con người. Đây là ví dụ về trường hợp thiết bị theo dõi tên lửa tự hành.

Vào tháng 9, Nghị viện châu Âu đã thông qua nghị quyết kêu gọi lệnh cấm quốc tế đối với các "robot sát thủ" này, trong đó có các tên lửa có khả năng lựa chọn mục tiêu cũng như những cỗ máy có khả năng học hỏi với kỹ năng nhận thức để có thể ra quyết định sẽ tấn công ai, khi nào và ở đâu.

Các nghị sĩ nhấn mạnh những "máy móc không thể đưa ra quyết định như con người và đánh giá rằng các quyết định trong chiến tranh phải là đặc quyền của bộ não con người”.

Nghị quyết được thông qua sau các cuộc tranh luận không thành công tại Liên hợp quốc trong vấn đề cấm các hệ thống vũ khí chiến đấu tự hành. Một nhóm các quốc gia xung quanh Mỹ  và Nga, như Hàn Quốc và Israel, đã phản đối quyết liệt lệnh cấm trên.

Quan điểm của Nhóm cấp cao phù hợp với lập trường của Nghị viện châu Âu thể hiện trong nghị quyết của mình. Đó là việc tìm câu trả lời cho ý nghĩa đạo đức và pháp lý liên quan đến trách nhiệm, sự kiểm soát của con người và quyền con người trong sự phát triển vũ khí chiến đấu tự hành.

Một cách tổng quát, các kết luận về phương hướng đạo đức của Ủy ban châu Âu bảo vệ cách tiếp cận lấy con người làm trung tâm để phát triển AI, phù hợp với các quyền cơ bản và các giá trị xã hội. Về lâu dài, mục tiêu là thúc đẩy một AI đáng tin cậy.

Phó Chủ tịch Ủy ban châu Âu phụ trách Thị trường Kỹ thuật số Andrus Ansip đánh giá AI mang lại lợi ích lớn cho xã hội, từ việc phát hiện và chữa lành ung thư đến giảm tiêu thụ năng lượng. Nhưng để mọi người chấp nhận và sử dụng các hệ thống dựa trên AI, thì rất cần phải làm cho người dân tin tưởng và chắc chắn rằng quyền riêng tư của họ sẽ được tôn trọng và các quyết định đưa ra là hoàn toàn công minh.