Kế hoạch đầy tham vọng của Mozilla để dạy các lập trình viên không trở thành ác nhân

 Người sáng lập và chủ tịch của tổ chức phi lợi nhuận giải thích sáng kiến ​​mới nhất của cô: một cuộc thi trị giá 3,5 triệu đô la hợp tác với Mạng Omidyar để khám phá những cách mới để dạy đạo đức cho sinh viên khoa học máy tính.

Kế hoạch đầy tham vọng của Mozilla để dạy các lập trình viên không trở thành ác nhân

[Ảnh: Hero Images / Getty Images]

HƠN NHƯ THẾ NÀY

Nike là thương hiệu mới nhất thúc đẩy bình chọn. Có ai quan tâm không?

Tại sao thư viện Brooklyn này lại đặt cược vào một tương lai lớn hơn sách

Diễn viên đóng thế 60 phút của Trump chỉ là bức ảnh chế nhạo mới nhất của anh ấy. Những bức ảnh này chứng minh điều đó

BỞI KATHARINE SCHWAB4 PHÚT ĐỌC

Trong nhiều thập kỷ, trí tuệ phổ biến cho rằng không thể phủ nhận công nghệ là một điều tốt. Nhưng trong vài năm gần đây, ngày càng rõ ràng không phải như vậy: Công nghệ được thiết kế kém có thể thúc đẩy sự lan truyền của thông tin sai lệch , lôi kéo phân biệt chủng tộc và phân biệt giới tính có hệ thống , làm xói mòn quyền riêng tư cá nhân , gây chia rẽ và chủ nghĩa cực đoan .

Làm thế nào để bạn giải quyết những thay đổi xã hội lớn như vậy? Đối với Mitchell Baker, người sáng lập và là chủ tịch của Mozilla Foundation, nó bắt đầu với giáo dục.

Ngày nay, Mozilla, cùng với Omidyar Network, Schmidt Futures và Craig Newmark Philanthropies, đang phát động một cuộc thi dành cho các giáo sư và nhà giáo dục nhằm tích hợp hiệu quả đạo đức vào giáo dục khoa học máy tính ở cấp đại học. Bối cảnh, được gọi là Thử thách Khoa học Máy tính Có trách nhiệm, sẽ trao giải thưởng lên tới 3,5 triệu đô la trong hai năm tới cho các đề xuất tập trung vào cách làm cho đạo đức phù hợp với các nhà công nghệ trẻ.

Baker nói: “Bạn không thể tham gia một khóa học đạo đức từ 50 hoặc thậm chí 25 năm trước và bỏ nó giữa chừng với chương trình khoa học máy tính và mong đợi nó thu hút mọi người hoặc đặc biệt có thể áp dụng được. “Chúng tôi đang tìm cách khuyến khích các cách giảng dạy đạo đức có ý nghĩa trong một chương trình khoa học máy tính, có ý nghĩa ngày nay và có ý nghĩa trong việc hiểu các câu hỏi về dữ liệu.”

[Ảnh: Arif Riyanto / Unsplash ]

Điều đó có thể trông như thế nào? Cuộc thi đang khuyến khích các giáo sư đề xuất những thay đổi đối với tài liệu trong lớp, như tích hợp bài tập đọc về đạo đức vào từng dự án hoặc với phương pháp luận, như để các phần khoa học máy tính được đồng giảng dạy với trợ giảng từ khoa đạo đức. Giai đoạn đầu của thử thách sẽ trao các đề xuất này lên đến 150.000 đô la để thử các ý tưởng của họ trước mắt, có thể là tại trường đại học nơi nhà giáo dục giảng dạy. Giai đoạn thứ hai sẽ lấy những phi công giỏi nhất và cấp cho họ 200.000 đô la để giúp họ mở rộng quy mô sang các trường đại học khác. Mỗi ý tưởng sẽ được đánh giá bởi một hội đồng độc lập gồm các chuyên gia từ các học viện và công ty công nghệ.

Baker hy vọng rằng cuộc thi - và số tiền thưởng của nó - sẽ mang lại những ý tưởng thiết thực vừa quan trọng vừa phù hợp. Cô nói, đó không phải là một khóa học bắt buộc mà sinh viên chỉ để đánh dấu vào ô trước khi tốt nghiệp. Thay vì quá triết học, môn học nên sử dụng các giả thuyết và logic để làm nền tảng cho các ý tưởng. Mục đích? Để tạo ra một cách nói mới về công nghệ, một cách kết hợp nhiều nguyên tắc nhân văn hơn.

“Lý tưởng nhất là chúng tôi nên bắt đầu xây dựng một ngôn ngữ cho cách bạn nói về đạo đức hoặc cách bạn nghĩ về tác động của công nghệ,” cô nói. “Không có gì rõ ràng như một công thức toán học, nhưng bạn sẽ có những khái niệm mà thế hệ tiếp theo của các nhà công nghệ sẽ hiểu và có thể nói về nó.”

Về cơ bản, Baker tin rằng việc củng cố lại các tiêu chuẩn cho giáo dục kỹ thuật có thể giúp thay đổi tập hợp các giả định cơ bản mà chúng ta có về công nghệ. Đó là những gì hiện đang xảy ra với giả định rằng các thuật toán là trung lập . Nhưng trong 5 năm qua, ý tưởng này đã bị thách thức . Bây giờ khi bạn nói về trách nhiệm giải trình theo thuật toán , có nhiều hiểu biết hơn trước đây, ngay cả khi nó vẫn chưa thâm nhập rất xa . Thành phố New York thậm chí còn có một luật mới để điều tra các thuật toán của riêng mình và buộc chúng phải chịu trách nhiệm .

[Ảnh: Mimi Thian / Unsplash ]

Baker nhận thấy giả định rằng giáo dục STEM luôn tốt, tương tự như vậy cũng không rõ ràng. “Tất nhiên giáo dục công nghệ là tốt, nhưng STEM mà không có bất kỳ hiểu biết nào về con người sẽ tạo ra một nhóm các nhà công nghệ không biết, ngay cả khi họ muốn, làm thế nào để xây dựng những điều tích cực cho nhân loại,” Baker nói. "Các nhà công nghệ, những người sáng lập, các doanh nghiệp xây dựng loại MBA - họ thậm chí có khuôn khổ để suy nghĩ về một loạt các vấn đề ngoài tốc độ và hiệu suất không?"

Đã có một phong trào đang phát triển để tích hợp đạo đức vào lớp học khoa học máy tính. Harvard và MIT đã khởi động một lớp học chung về đạo đức của AI . UT Austin có một lớp học đạo đức cho các chuyên ngành khoa học máy tính mà nó dự định sẽ đưa ra yêu cầu cuối cùng. Tương tự, Stanford đang phát triển một lớp học đạo đức trong khoa khoa học máy tính của mình. Nhưng nhiều người trong số này chỉ là những sáng kiến ​​chỉ có một lần và một thách thức quốc gia thuộc loại này sẽ cung cấp nguồn lực và động lực cho nhiều trường đại học hơn để suy nghĩ về những câu hỏi này – và về mặt lý thuyết, giúp các ý tưởng tốt nhất mở rộng trên toàn quốc.

Tuy nhiên, Baker nói rằng cô ấy đôi khi hoài nghi về mức độ ảnh hưởng của các lớp học đạo đức nếu không có sự thay đổi xã hội rộng lớn hơn. Baker nói: “Có rất nhiều quyền lực và áp lực thể chế và sự giàu có” trong việc đưa ra các quyết định có lợi cho doanh nghiệp, nhưng có thể không tốt cho nhân loại. “Thực tế là bạn đã có một số lớp học về đạo đức sẽ không vượt qua tất cả những điều đó và làm cho mọi thứ trở nên hoàn hảo. Mọi người có nhiều động lực ”.

Mặc dù vậy, việc dạy những người trẻ tuổi cách nghĩ về những tác động của công nghệ với sắc thái có thể giúp chống lại một số động lực khác - chủ yếu là tiền. Cuộc trò chuyện không được nhị phân như mã; nó nên thừa nhận những cách dữ liệu điển hình được sử dụng và giúp các nhà công nghệ trẻ nói chuyện và suy nghĩ về sự khác biệt giữa cung cấp giá trị và xâm lấn.

“Chúng tôi đang ở cuối phạm vi nơi chúng tôi không có công cụ hoặc cách suy nghĩ cho những người có khả năng và muốn nghĩ về điều này và xây dựng nó – chúng tôi không có bất kỳ công cụ nào,” Baker nói. “Và vì vậy, việc giáo dục thế hệ tiếp theo của các nhà công nghệ về cách nghĩ về điều này và nói về điều này và cách ứng phó với nó có thể không phải là bước đầu tiên, nhưng nó là một bước cơ bản quan trọng.”