Tác giả: Eric Johansson, dlnews Biên dịch: Shan Ouba, Golden Finance
Những kẻ lừa đảo bán thịt đang sử dụng các công cụ trí tuệ nhân tạo mới để lừa nạn nhân của chúng.
Các công tố viên cảnh báo về số ca mắc mới ngày càng tăng trên khắp thế giới.
*Lừa đảo tiền điện tử sẽ khiến nạn nhân thiệt hại hơn 2,5 tỷ đô la vào năm 2022.
Trong những tháng kể từ khi OpenAI ra mắt ChatGPT và nâng đỡ hệ sinh thái khởi nghiệp, công nghệ này đã bị coi là mối đe dọa đối với báo chí, biên kịch và an ninh quốc gia. Vì vậy, không có gì ngạc nhiên khi những kẻ lừa đảo và tội phạm mạng đang khai thác các mô hình ngôn ngữ lớn để đánh cắp tiền điện tử từ nạn nhân của chúng. Tuy nhiên, điều này đã xảy ra với anh ấy khi một anh chàng sử dụng Tandem, một ứng dụng chia sẻ ngôn ngữ đóng vai trò như một nền tảng hẹn hò, đang trò chuyện trực tuyến. Một người nói chuyện khác đã nhanh chóng thuyết phục anh ta chuyển cuộc trò chuyện sang WhatsApp.
Dù kết quả cuối cùng dự định là gì, kẻ lừa đảo đã bị phá hỏng bởi một đoạn văn bản dài tiết lộ "là một mô hình ngôn ngữ của 'tôi', tôi không có cảm giác hoặc cảm xúc giống con người", về cơ bản sử dụng Chatbots nâng cao, nếu không phải là ChatGPT, chịu một sự tương đồng nổi bật với nó. Bị sốc, nạn nhân có thể trở thành nạn nhân đã liên hệ với công ty an ninh mạng Sophos, công ty này xác nhận nỗi lo sợ tội phạm lợi dụng công nghệ mới đã trở thành hiện thực.
Sean Gallagher, nhà nghiên cứu chính về mối đe dọa tại Sophos, cho biết: “Bây giờ chúng tôi có thể nói rằng, ít nhất là trong trường hợp lừa đảo bán thịt, điều này thực sự đang xảy ra”.
Butchery là một trò lừa đảo trong đó những kẻ lừa đảo cố gắng dụ nạn nhân đầu tư vào một nền tảng tiền điện tử trong một khoảng thời gian, hứa hẹn lợi nhuận cao trước khi rút tiền mặt, từ đó khuyến khích nạn nhân cam kết gửi tiền, điều này cuối cùng khiến họ phải chịu tổn thất và xấu hổ. FBI ước tính rằng những vụ lừa đảo tiền điện tử như vậy đã khiến các nạn nhân thiệt hại hơn 2,5 tỷ đô la vào năm 2022.
Tuy nhiên, việc sử dụng ChatGPT và các công cụ tương tự sẽ cho phép bọn tội phạm mở rộng quy mô "theo cách tồi tệ hơn chúng ta từng thấy trong quá khứ", Luật sư Erin West của California cho biết. Cô ấy nổi tiếng vì đã khôi phục thành công hàng triệu loại tiền điện tử bị đánh cắp. Công nghệ này sẽ cho phép bọn tội phạm điều chỉnh cuộc trò chuyện với nạn nhân tốt hơn, vượt qua rào cản ngôn ngữ, tiếp cận nhiều người hơn và gây ra nhiều thiệt hại hơn. Bà nói thêm: "Việc bổ sung ChatGPT càng làm cho điều này trở nên nguy hiểm hơn. Cảnh báo nghiêm túc được đưa ra sau các báo cáo về việc tội phạm mạng sử dụng các công cụ tương tự để viết phần mềm độc hại một cách nhanh chóng.
Không phải là câu hỏi nếu, mà là câu hỏi khi nào
Các công ty bảo mật và cơ quan thực thi pháp luật không yên tâm về sự phát triển này, nhưng không ai trong số những người chúng tôi nói chuyện ngạc nhiên. Bobby Cornwell, phó chủ tịch phụ trách hỗ trợ và tích hợp đối tác chiến lược tại công ty an ninh mạng SonicWall, nói với DL News: “Vấn đề không phải là liệu có xảy ra hay không mà là vấn đề khi nào.
Những câu chuyện này đã được tạo ra kể từ khi OpenAI ra mắt ChatGPT vào tháng 11 năm ngoái. Những chatbot nâng cao này được đào tạo với lượng dữ liệu khổng lồ. Họ tận dụng các tập dữ liệu lớn bao gồm sách, mã, trang web và bài báo, có thể viết mã phức tạp và thậm chí thực hiện các cuộc hội thoại dựa trên lời nhắc của người dùng. Đây là một bước đột phá cho OpenAI. Tính đến tháng 1, nó có khoảng 100 triệu người dùng hoạt động hàng tháng, khiến nó trở thành một trong những ứng dụng phát triển nhanh nhất trong lịch sử. Mọi người đã bắt đầu sử dụng nó cho mọi thứ, từ viết hồ sơ hẹn hò trực tuyến đến truyện kinh dị, thậm chí tạo kịch bản video và mã gỡ lỗi. Những gã khổng lồ công nghệ bao gồm Google và Meta cũng đang tăng tốc phát triển các công cụ AI đàm thoại của riêng họ, chẳng hạn như Bard và LLaMA.
Vào tháng 7, CEO Tesla, Elon Musk, đã thành lập một công ty mới có tên x.AI với mục đích tạo ra một phiên bản ChatGPT ít “tỉnh táo” hơn so với phiên bản OpenAI. Theo Crunchbase, trong nửa đầu năm 2023, các công ty AI đã huy động được hơn 25 tỷ USD từ các nhà đầu tư.
Mặt tối của ChatGPT
Thay vì ăn mừng chiến thắng, Giám đốc điều hành OpenAI Sam Altman đã thực hiện một chuyến du lịch vòng quanh thế giới để cảnh báo về sự nguy hiểm của trí tuệ nhân tạo tự do. Anh ấy đã làm chứng trước Quốc hội Hoa Kỳ và nói với các phóng viên rằng anh ấy đã mất ngủ vì lo ngại rằng OpenAI đã giải phóng thần đèn AI theo cách ngôn ngữ của mình "để làm một số điều thực sự tồi tệ." Cho dù nhận xét của anh ấy được thúc đẩy bởi nỗi sợ hãi thực sự hay là một phần của chiến lược PR phức tạp vẫn chưa chắc chắn.
Dù động cơ đằng sau nhận xét của Altman là gì, đám đông kỹ thuật số đã sử dụng ChatGPT hoặc các công cụ tương tự để hỗ trợ kế hoạch của họ. Tội phạm mạng thậm chí còn tuyên bố đã tạo phiên bản ChatGPT của riêng chúng, miễn nhiễm với các biện pháp bảo mật do OpenAI cài đặt. Họ đã quảng cáo chúng trên web đen như những công cụ để tăng cường các cuộc tấn công lừa đảo và viết phần mềm độc hại, Wired đưa tin vào đầu tháng 8. Cộng đồng tội phạm mạng và tác nhân đe dọa là những người am hiểu công nghệ và chủ động, đồng thời có xu hướng sớm chấp nhận các xu hướng công nghệ mới khi họ nhìn thấy những lợi ích và cải tiến trong cách thức phát triển của các công cụ, kỹ thuật và thực tiễn của họ.
Vì vậy, không có gì ngạc nhiên khi các tác nhân đe dọa đang áp dụng AI tổng quát, vì chúng có thể đạt được mức tăng năng suất tương tự và có khả năng cải thiện khả năng che giấu, tiến hành do thám, xây dựng mã độc hại, đánh lừa mọi người và phần mềm bảo mật, v.v. Những diễn biến này khiến các chuyên gia an ninh mạng và các cơ quan thực thi pháp luật phải tranh giành để đối phó với mối đe dọa.
Các công ty an ninh mạng phải "xây dựng thêm trí thông minh vào hệ thống của chúng tôi để tìm kiếm nội dung do AI tạo ra", Cornwell nói, đồng thời cho biết thêm rằng việc phát triển các biện pháp đối phó như vậy sẽ mất thời gian. , và trong khi cô ấy và các cơ quan thực thi pháp luật khác có thể cảnh báo về những mối đe dọa này, các nhóm tội phạm đứng sau vụ giết người sẽ khó bị hạ gục ngay cả trước khi khai thác trí tuệ nhân tạo.
Theo nhóm chống lừa đảo toàn cầu, nhiều mạng lưới tội phạm hoạt động từ những nơi như Campuchia, Lào và Myanmar. Tội ác của họ đã thu về hàng tỷ đô la, cho phép họ trả tiền cho cơ quan thực thi pháp luật địa phương và tránh các lệnh trừng phạt quốc tế. Rất khó để chống lại một nhóm tội phạm lớn và giàu có như vậy.
OpenAI đã không trả lời yêu cầu bình luận của chúng tôi.
Xem bản gốc
Trang này có thể chứa nội dung của bên thứ ba, được cung cấp chỉ nhằm mục đích thông tin (không phải là tuyên bố/bảo đảm) và không được coi là sự chứng thực cho quan điểm của Gate hoặc là lời khuyên về tài chính hoặc chuyên môn. Xem Tuyên bố từ chối trách nhiệm để biết chi tiết.
Những kẻ lừa đảo tiền điện tử đang áp dụng công nghệ AI mới như thế nào
Tác giả: Eric Johansson, dlnews Biên dịch: Shan Ouba, Golden Finance
Trong những tháng kể từ khi OpenAI ra mắt ChatGPT và nâng đỡ hệ sinh thái khởi nghiệp, công nghệ này đã bị coi là mối đe dọa đối với báo chí, biên kịch và an ninh quốc gia. Vì vậy, không có gì ngạc nhiên khi những kẻ lừa đảo và tội phạm mạng đang khai thác các mô hình ngôn ngữ lớn để đánh cắp tiền điện tử từ nạn nhân của chúng. Tuy nhiên, điều này đã xảy ra với anh ấy khi một anh chàng sử dụng Tandem, một ứng dụng chia sẻ ngôn ngữ đóng vai trò như một nền tảng hẹn hò, đang trò chuyện trực tuyến. Một người nói chuyện khác đã nhanh chóng thuyết phục anh ta chuyển cuộc trò chuyện sang WhatsApp.
Dù kết quả cuối cùng dự định là gì, kẻ lừa đảo đã bị phá hỏng bởi một đoạn văn bản dài tiết lộ "là một mô hình ngôn ngữ của 'tôi', tôi không có cảm giác hoặc cảm xúc giống con người", về cơ bản sử dụng Chatbots nâng cao, nếu không phải là ChatGPT, chịu một sự tương đồng nổi bật với nó. Bị sốc, nạn nhân có thể trở thành nạn nhân đã liên hệ với công ty an ninh mạng Sophos, công ty này xác nhận nỗi lo sợ tội phạm lợi dụng công nghệ mới đã trở thành hiện thực.
Sean Gallagher, nhà nghiên cứu chính về mối đe dọa tại Sophos, cho biết: “Bây giờ chúng tôi có thể nói rằng, ít nhất là trong trường hợp lừa đảo bán thịt, điều này thực sự đang xảy ra”.
Butchery là một trò lừa đảo trong đó những kẻ lừa đảo cố gắng dụ nạn nhân đầu tư vào một nền tảng tiền điện tử trong một khoảng thời gian, hứa hẹn lợi nhuận cao trước khi rút tiền mặt, từ đó khuyến khích nạn nhân cam kết gửi tiền, điều này cuối cùng khiến họ phải chịu tổn thất và xấu hổ. FBI ước tính rằng những vụ lừa đảo tiền điện tử như vậy đã khiến các nạn nhân thiệt hại hơn 2,5 tỷ đô la vào năm 2022.
Tuy nhiên, việc sử dụng ChatGPT và các công cụ tương tự sẽ cho phép bọn tội phạm mở rộng quy mô "theo cách tồi tệ hơn chúng ta từng thấy trong quá khứ", Luật sư Erin West của California cho biết. Cô ấy nổi tiếng vì đã khôi phục thành công hàng triệu loại tiền điện tử bị đánh cắp. Công nghệ này sẽ cho phép bọn tội phạm điều chỉnh cuộc trò chuyện với nạn nhân tốt hơn, vượt qua rào cản ngôn ngữ, tiếp cận nhiều người hơn và gây ra nhiều thiệt hại hơn. Bà nói thêm: "Việc bổ sung ChatGPT càng làm cho điều này trở nên nguy hiểm hơn. Cảnh báo nghiêm túc được đưa ra sau các báo cáo về việc tội phạm mạng sử dụng các công cụ tương tự để viết phần mềm độc hại một cách nhanh chóng.
Không phải là câu hỏi nếu, mà là câu hỏi khi nào
Các công ty bảo mật và cơ quan thực thi pháp luật không yên tâm về sự phát triển này, nhưng không ai trong số những người chúng tôi nói chuyện ngạc nhiên. Bobby Cornwell, phó chủ tịch phụ trách hỗ trợ và tích hợp đối tác chiến lược tại công ty an ninh mạng SonicWall, nói với DL News: “Vấn đề không phải là liệu có xảy ra hay không mà là vấn đề khi nào.
Những câu chuyện này đã được tạo ra kể từ khi OpenAI ra mắt ChatGPT vào tháng 11 năm ngoái. Những chatbot nâng cao này được đào tạo với lượng dữ liệu khổng lồ. Họ tận dụng các tập dữ liệu lớn bao gồm sách, mã, trang web và bài báo, có thể viết mã phức tạp và thậm chí thực hiện các cuộc hội thoại dựa trên lời nhắc của người dùng. Đây là một bước đột phá cho OpenAI. Tính đến tháng 1, nó có khoảng 100 triệu người dùng hoạt động hàng tháng, khiến nó trở thành một trong những ứng dụng phát triển nhanh nhất trong lịch sử. Mọi người đã bắt đầu sử dụng nó cho mọi thứ, từ viết hồ sơ hẹn hò trực tuyến đến truyện kinh dị, thậm chí tạo kịch bản video và mã gỡ lỗi. Những gã khổng lồ công nghệ bao gồm Google và Meta cũng đang tăng tốc phát triển các công cụ AI đàm thoại của riêng họ, chẳng hạn như Bard và LLaMA.
Vào tháng 7, CEO Tesla, Elon Musk, đã thành lập một công ty mới có tên x.AI với mục đích tạo ra một phiên bản ChatGPT ít “tỉnh táo” hơn so với phiên bản OpenAI. Theo Crunchbase, trong nửa đầu năm 2023, các công ty AI đã huy động được hơn 25 tỷ USD từ các nhà đầu tư.
Mặt tối của ChatGPT
Thay vì ăn mừng chiến thắng, Giám đốc điều hành OpenAI Sam Altman đã thực hiện một chuyến du lịch vòng quanh thế giới để cảnh báo về sự nguy hiểm của trí tuệ nhân tạo tự do. Anh ấy đã làm chứng trước Quốc hội Hoa Kỳ và nói với các phóng viên rằng anh ấy đã mất ngủ vì lo ngại rằng OpenAI đã giải phóng thần đèn AI theo cách ngôn ngữ của mình "để làm một số điều thực sự tồi tệ." Cho dù nhận xét của anh ấy được thúc đẩy bởi nỗi sợ hãi thực sự hay là một phần của chiến lược PR phức tạp vẫn chưa chắc chắn.
Dù động cơ đằng sau nhận xét của Altman là gì, đám đông kỹ thuật số đã sử dụng ChatGPT hoặc các công cụ tương tự để hỗ trợ kế hoạch của họ. Tội phạm mạng thậm chí còn tuyên bố đã tạo phiên bản ChatGPT của riêng chúng, miễn nhiễm với các biện pháp bảo mật do OpenAI cài đặt. Họ đã quảng cáo chúng trên web đen như những công cụ để tăng cường các cuộc tấn công lừa đảo và viết phần mềm độc hại, Wired đưa tin vào đầu tháng 8. Cộng đồng tội phạm mạng và tác nhân đe dọa là những người am hiểu công nghệ và chủ động, đồng thời có xu hướng sớm chấp nhận các xu hướng công nghệ mới khi họ nhìn thấy những lợi ích và cải tiến trong cách thức phát triển của các công cụ, kỹ thuật và thực tiễn của họ.
Vì vậy, không có gì ngạc nhiên khi các tác nhân đe dọa đang áp dụng AI tổng quát, vì chúng có thể đạt được mức tăng năng suất tương tự và có khả năng cải thiện khả năng che giấu, tiến hành do thám, xây dựng mã độc hại, đánh lừa mọi người và phần mềm bảo mật, v.v. Những diễn biến này khiến các chuyên gia an ninh mạng và các cơ quan thực thi pháp luật phải tranh giành để đối phó với mối đe dọa.
Các công ty an ninh mạng phải "xây dựng thêm trí thông minh vào hệ thống của chúng tôi để tìm kiếm nội dung do AI tạo ra", Cornwell nói, đồng thời cho biết thêm rằng việc phát triển các biện pháp đối phó như vậy sẽ mất thời gian. , và trong khi cô ấy và các cơ quan thực thi pháp luật khác có thể cảnh báo về những mối đe dọa này, các nhóm tội phạm đứng sau vụ giết người sẽ khó bị hạ gục ngay cả trước khi khai thác trí tuệ nhân tạo.
Theo nhóm chống lừa đảo toàn cầu, nhiều mạng lưới tội phạm hoạt động từ những nơi như Campuchia, Lào và Myanmar. Tội ác của họ đã thu về hàng tỷ đô la, cho phép họ trả tiền cho cơ quan thực thi pháp luật địa phương và tránh các lệnh trừng phạt quốc tế. Rất khó để chống lại một nhóm tội phạm lớn và giàu có như vậy.
OpenAI đã không trả lời yêu cầu bình luận của chúng tôi.