Trường đại học làm ứng dụng chống lừa đảo và bắt nạt trên mạng

SVVN - Các nhà khoa học máy tính từ ĐH Aston, Birmingham (Anh) đã phát triển ứng dụng Bullstop, sử dụng trí tuệ nhân tạo (AI) mới lạ để chống lại nạn lừa đảo và và bắt nạt trên mạng.

Bullstop này có thể tích hợp trực tiếp với các nền tảng truyền thông xã hội để bảo vệ người dùng khỏi những kẻ bắt nạt và lừa đảo qua tin nhắn. Bullstop được phát triển bởi nhà nghiên cứu Semiu Salawu thuộc trường CĐ Khoa học kỹ thuật và Vật lý. Ban đầu, Bullstop ban đầu được thiết kế dành cho thanh thiếu niên từ 13 tuổi trở lên. Nhưng cũng vô cùng hữu ích cho cả người trưởng thành thường xuyên sử dụng mạng xã hội và thường gặp phải nạn lừa đảo, công kích trên mạng. Bullstop hiện có trong kho ứng dụng của Google Play Store và cho phép tải miễn phí.

Trẻ em và thanh thiếu niên là đối tượng Bullstop hướng đến.

Bullstop độc đáo ở chỗ, nó giám sát hồ sơ của người dùng và quét các tin nhắn đến và đi để đảm bảo người dùng không bị lạm dụng, không sử dụng ngôn từ thiếu đứng đắn, cung cấp phương tiện tự phản ánh. Điều này hoạt động thông qua thuật toán trí tuệ nhân tạo (AI) được thiết kế để hiểu ngôn ngữ viết, phân tích các tin nhắn và gắn cờ các nội dung gây khó chịu, hoặc đe doạ, lăng mạ hoặc đe dọa, khiêu dâm và cả spam.

Sau khi phát hiện, tin nhắn xúc phạm bị xóa ngay lập tức khỏi hộp thư đến của người dùng. Tuy nhiên, một bản sao của các tin nhắn đã xóa sẽ được giữ lại nếu người dùng muốn xem lại chúng. Ứng dụng cũng có thể tự động chặn các số liên lạc liên tục gửi tin nhắn xúc phạm. Bullstop có cấu hình cao, cho phép người dùng xác định mức độ toàn diện của ứng dụng loại bỏ các tin nhắn không phù hợp.

Bullstop có mặt trên Google Play Store.

Trang chủ của ĐH Aston nhận định, kể từ khi COVID-19 bùng nổ và thực hiện giãn cách, hạn chế tụ tập đông người, thanh niên và người lớn sử dụng mạng xã hội, Internet nhiều hơn do phần lớn thời gian trong ngày phải ở nhà. Việc người dân gia tăng thời lượng sử dụng Internet đã khiến các vụ lừa đảo, công kích gia tăng tỉ lệ thuận. Thậm chí, Chính phủ Anh phải ban hành một  hướng dẫn an toàn trực tuyến mới cho các bậc cha mẹ, kêu gọi họ làm theo lời khuyên để giữ an toàn trực tuyến cho trẻ em trong thời gian giãn cách.

Trang Comparitech.com đã khảo sát hơn 1.000 phụ huynh trên toàn cầu và thấy rằng từ năm 2018 đến 2020, một phần năm của tất cả các vụ bắt nạt xảy ra thông qua các phương tiện truyền thông xã hội và ứng dụng, trong đó 11% xảy ra qua tin nhắn văn bản. Theo báo cáo của L1ght, công ty khởi nghiệp Israel, đe doạ trực tuyến đã tăng khoảng 70% khiến những người trẻ tuổi đối mặt với nhiều lệ luy.

Bullstop đang thử nghiệm beta. 

Ứng dụng Bullstop hiện đang trong giai đoạn thử nghiệm beta và thử nghiệm bởi một số thanh niên và các chuyên gia bao gồm giáo viên, cảnh sát và nhà tâm lý học. AI của Bullstop có thể nhận dạng hơn 60.000 tweet để lọc ra các tin nhắn có nội dung lăng mạ người khác, ngay cả các tin nhắn tinh vi, mà nếu chỉ sử dụng phương pháp nhận dạng “từ khóa” là rất khó phát hiện. Bullstop hiện hỗ trợ trên Twitter và có thể ứng dụng trên các nền tảng truyền thông xã hội khác như Facebook và Instagram.

Chuyên gia Semiu nói thêm: “Twitter rất ủng hộ những nỗ lực nghiên cứu này và cho phép các ứng dụng như BullStop tích hợp an toàn với nền tảng của họ. Chúng tôi hy vọng rằng các nền tảng truyền thông xã hội khác sẽ làm theo”.

Cùng chuyên mục

Xem thêm Công nghệ

Mới - Nóng

Khám phá