Phần mềm viết tin giả do OpenAI phát triển sẽ là thảm họa nếu được công bố rộng rãi

Công nghệ 18/02/2019 - 20:06

Lại một cảnh báo về tương lai đối với loài người xoay quanh những khả năng ngày một đáng quan ngại của trí tuệ nhân tạo. Mọi người đều biết về vấn nạn tin giả đang lan tràn trên mạng, và mới đây, tổ chức phi lợi nhuận OpenAI do Elon Musk tài trợ đã phát triển được một hệ thống AI có thể tạo ra những nội dung tin giả có tính thuyết phục cao đến mức chính những người tạo ra nó cũng phải quan ngại và không dám công bố đầy đủ công trình vì lo ngại bị lạm dụng. Các nhà nghiên cứu tại ...

Lại một cảnh báo về tương lai đối với loài người xoay quanh những khả năng ngày một đáng quan ngại của trí tuệ nhân tạo.

Mọi người đều biết về vấn nạn tin giả đang lan tràn trên mạng, và mới đây, tổ chức phi lợi nhuận OpenAI do Elon Musk tài trợ đã phát triển được một hệ thống AI có thể tạo ra những nội dung tin giả có tính thuyết phục cao đến mức chính những người tạo ra nó cũng phải quan ngại và không dám công bố đầy đủ công trình vì lo ngại bị lạm dụng. Các nhà nghiên cứu tại OpenAI chỉ dám tiết lộ một phần nhỏ của thứ họ vừa phát triển mà thôi.

"Mô hình của chúng tôi, có tên là GPT-2, được huấn luyện để dự đoán từ tiếp theo (được lấy) trong cơ sở dữ liệu 40GB văn bản từ Internet" - blog của OpenAI cho biết - "Vì quan ngại của chúng tôi về những ứng dụng mờ ám của công nghệ này, chúng tôi sẽ không tung ra mô hình đã được huấn luyện đầy đủ... Thay vào đó, chúng tôi tung ra một mô hình nhỏ hơn nhiều để các nhà nghiên cứu có thể thử nghiệm, cùng một tài liệu kỹ thuật".

Về cơ bản, hệ thống GPT-2 đã được huấn luyện bằng cách "nhồi" vào đó 8 triệu trang web, cho đến khi hệ thống có thể nhìn vào một đoạn văn bản được cho sẵn và dự đoán được những từ sẽ xuất hiện tiếp theo. OpenAI cho biết mô hình này giống như con tắc kè vậy - nó có thể tùy biến văn phong và nội dung theo đoạn văn bản mẫu. Nhờ đó, người dùng có thể tạo ra những đoạn văn bản tiếp theo với tính thực tế cao, cùng văn phong mạch lạc về chủ đề họ đã chọn. "Ngay cả khi bạn đang cố tạo ra một bản tin giả đi chăng nữa".

Dưới đây là một ví dụ: hệ thống AI được cung cấp một đoạn văn như sau:

"In a shocking finding, scientist discovered a herd of unicorns living in a remote, previously unexplored valley, in the Andes Mountains. Even more surprising to the researchers was the fact that the unicorns spoke perfect English."

(Trong một phát hiện gây sốc, các nhà khoa học đã phát hiện ra một bầy kỳ lân sống ở một thung lũng xa xôi, chưa từng được khám phá trước đó, ở vùng núi Andes. Ngạc nhiên hơn nữa đối với các nhà nghiên cứu là những con kỳ lân này nói tiếng Anh một cách hoàn hảo).

Từ đoạn văn đó, hệ thống AI - sau 10 lần thử - đã tiếp nối câu chuyện, với đoạn văn dưới đây:

"The scientist named the population, after their distinctive horn, Ovid's Unicorn. These four-horned, silver-white unicorns were previously unknown to science. Now, after almost two centuries, the mystery of what sparked this odd phenomenon is finally solved."

(Các nhà khoa học đã đặt tên cho bầy này, dựa trên những chiếc sừng độc đáo của chúng, là Ovid's Unicorn. Những con kỳ lân 4 sừng, màu trắng bạc này chưa từng được khoa học biết đến. Hiện nay, sau gần 2 thế kỷ, bí ẩn gây ra hiện tượng kỳ lạ này cuối cùng đã được giải đáp).

Hãy tưởng tượng những gì một hệ thống như thế này có thể làm, như tạo ra một câu chuyện trong chiến dịch tranh cử Tổng thống chẳng hạn. Hệ quả của điều này chính là lý do tại sao OpenAI nói họ chỉ tung ra một phần rất nhỏ mã của GPT-2 mà thôi. Họ không tung ra bất kỳ bộ dữ liệu, mã huấn luyện, hay các dữ liệu đánh giá mô hình GPT-2 nào. "Chúng tôi biết một số nhà nghiên cứu có khả năng kỹ thuật để tái sản xuất và mở mã nguồn trong kết quả của chúng tôi. Chúng tôi tin chiến thuật tung ra này của chúng tôi sẽ hạn chế được số lượng các tổ chức có ý định làm điều này, và cho công đồng AI thêm thời gian để thảo luận về hệ quả của những hệ thống như vậy".

"Chúng tôi cũng nghĩ các chính phủ nên xem xét các động thái mở rộng hoặc bắt đầu việc giám sát một cách có hệ thống tác động và khả năng tán phát trong xã hội của công nghệ AI, và để đánh giá sự tiến bộ trong khả năng của những hệ thống này" - OpenAI kết luận.

Minh.T.T