Các mối đe dọa leo của nhận dạng khuôn mặt
Có phải những người vô địch công nghệ giám sát mới không nhận ra rằng họ cũng sẽ bị ảnh hưởng bởi nó?
Các mối đe dọa leo của nhận dạng khuôn mặt
[Ảnh: AnitaVDB / iStock; Thor Alvis / Bapt]
BỞI SA APPLINĐỌC LÂU
Bài tiểu luận này là một phần của The Privacy Divide , một bộ truyện tìm hiểu những quan niệm sai lầm, chênh lệch và nghịch lý đã phát triển xung quanh ý thức về quyền riêng tư của chúng ta và những tác động rộng lớn hơn của nó đối với xã hội.
Trong một cuộc bỏ phiếu nhất trí vào thứ Hai, một ủy ban của chính phủ San Francisco đã đẩy thành phố tiến gần hơn tới việc ban hành lệnh cấm hoàn toàn đối với việc sử dụng công nghệ nhận diện khuôn mặt của chính phủ. Đây sẽ là thành phố đầu tiên của Hoa Kỳ làm như vậy: Khi cảnh sát, các cơ quan chính phủ và các doanh nghiệp hấp dẫn về công nghệ, không có luật liên bang cũng như các quy tắc địa phương mạnh mẽ chi phối việc sử dụng nó. Nhiều người trong chúng ta có vẻ cảnh giác với các hệ thống giám sát được thiết kế để tự động nhận dạng hoặc hồ sơ chúng tôi ở nơi công cộng, nhưng điều đó dường như không quá quan trọng, và đó là điều liên quan nhất.
Đây là một lỗ hổng cơ bản trong sự biện minh của chúng tôi đối với các công nghệ này, Trưởng nhóm AI có trách nhiệm của Rumman Chowdhury đã viết trên Twitter vào tháng trước, đề cập đến đề xuất của San Francisco. Có phải chúng ta đang sống trong một tình trạng đủ nguy hiểm mà chúng ta cần điều này không? Có phải giám sát trừng phạt làm thế nào chúng ta đạt được một xã hội lành mạnh và an toàn (không phải vậy)?
Câu hỏi của tôi về bất kỳ công nghệ mới nào đang được áp dụng nhanh chóng AR AR, VR, dữ liệu lớn, học máy, bất cứ điều gì, luôn luôn là tại sao? Tại sao các doanh nghiệp hoặc chính phủ muốn nhận diện khuôn mặt? Tôi đã không biện minh cho những công nghệ này, tôi đã trả lời. Những người nắm quyền lực là những người chủ yếu kiếm lợi từ nó. Điều này là thông qua việc chế tạo / bán thiết bị hoặc sử dụng công nghệ để giảm số lượng nhân viên bằng cách thay thế mọi người. Đây không phải là về xã hội hay thậm chí là văn minh, mà là về tiền bạc và quyền lực.
Nhưng tiền và quyền lực không phải là lý do duy nhất đằng sau nỗ lực nhận diện khuôn mặt. Hợp tác là cách con người đã xoay xở để tồn tại miễn là chúng ta có, và nhu cầu phân loại một số người như là những người khác đã xảy ra kể từ khi có con người. Thật không may, những quan niệm sai lầm và suy đoán về một số người trong chúng ta và cách chúng ta có thể cư xử đã góp phần vào sự sợ hãi và bất an giữa các công dân, chính phủ và thực thi pháp luật. Ngày nay, những ý tưởng đáng sợ đó, kết hợp với dân số đông hơn, di động hơn, đa dạng hơn, đã tạo ra một điều kiện để chúng ta biết về nhau, nhưng không biết nhau, chúng ta cũng không thường xuyên tham gia với mỗi người khác. cần thiết. Nỗi sợ hãi của chúng tôi trở thành một lý do khác để đầu tư vào bảo mật nhiều hơn, mặc dù, nếu chúng tôi dành thời gian để hòa đồng, cởi mở và hợp tác trong cộng đồng của chúng tôi,
THỬ NGHIỆM GIÁM SÁT LẪN NHAU
Tuy nhiên, thay vì cách tiếp cận đó, chúng tôi đã theo dõi nhau. Một cách để chúng tôi bắt đầu tăng cường khả năng nhận diện các loại khác của Keith là thông qua việc sử dụng các camera giám sát. Khi video giám sát trở nên hợp lý hơn, nhiều loại hình doanh nghiệp đã tăng khả năng giám sát bằng cách thêm camera vào vị trí thực tế của họ để ngăn chặn hành vi trộm cắp và bạo lực. Nhân viên bảo vệ sẽ giám sát các nguồn cấp dữ liệu video cũng như (hoặc thay vì) xem mọi người, nhưng theo thời gian, máy ảnh đã thay thế nhiều vệ sĩ của con người. Bằng cách này, ý tưởng về video giám sát đã trở thành một yếu tố ngăn chặn tâm lý nhiều như một nỗ lực kiểm soát: Vâng, chúng tôi đã được ghi lại, nhưng chúng tôi không biết có ai đang xem đoạn ghi âm không, chúng tôi cũng không biết liệu họ có hành động về những gì không họ đã thấy.
Khi các camera giám sát đã trở nên nhỏ hơn (và rẻ hơn), chúng đã được đưa vào nhiều sản phẩm tiêu dùng hơn, mang đến cho mọi người cơ hội kết hợp công nghệ này trong cuộc sống hàng ngày. Máy ảnh điện thoại thông minh của chúng tôi, chuông cửa mang nhãn hiệu Ring và camera giám sát nhỏ được giấu trong AirBnB, (và nhiều nơi khác trong xã hội) đã trở nên bình thường. Giám sát đã được phân phối giữa các chính phủ, tập đoàn và mỗi người chúng ta mang theo điện thoại thông minh hoặc máy quay video.
So với giám sát tổng quát hơn, các camera trong nhà có lợi thế hơn trong việc phòng thủ trước mối đe dọa của những người khác. Một ngôi nhà là một môi trường tương đối kín, và bất kỳ sự bất thường nào cũng có thể dễ dàng được xác định và báo cáo bởi chủ nhà hoặc phần mềm của họ trong thời gian thực. Chủ nhà rất thận trọng về tài sản của họ và có thể sử dụng các ứng dụng bổ sung cung cấp cho họ tin tức tội phạm địa phương và trong nhiều trường hợp cũng thuê một công ty bảo mật của bên thứ ba song song để theo dõi thêm. Cũng có ít dữ liệu để xử lý trong môi trường gia đình tư nhân, cũng như những người hàng xóm tìm kiếm các thực hành bất thường, thêm một lớp bổ sung của Hiểu biết và kiến thức cộng đồng vào quy trình giám sát.
Nhưng có một lỗ hổng lớn trong việc sử dụng công nghệ camera giám sát trong xã hội với quy mô lớn: việc sử dụng máy ảnh tạo ra nhiều cảnh quay đã tạo ra một vấn đề xử lý. Có rất nhiều cảnh quay, sao lưu mọi camera mà bạn có thể thấy, và nhiều camera bạn không thể sử dụng nhưng đơn giản là không có đủ người hoặc tài nguyên để xử lý và hiểu ý nghĩa của những hình ảnh được ghi lại. Ngay cả khi một tội phạm được phát hiện, hung thủ có thể đã thực hiện giờ trốn thoát, hoặc nhiều ngày, trước khi đoạn phim được nhìn thấy, nếu nó được nhìn thấy. Sự giám sát thâm hụt đó làm cho công nghệ dễ dàng phá vỡ. Sự thâm hụt giám sát đó đã thúc đẩy một số người đổi mới công việc (một quy trình được gọi là cơ quan bí mật của Hồi giáo ).
Ngay cả khi giả định rằng có một cách để kết hợp thông qua dữ liệu giám sát để tìm đủ dữ liệu để xác định ai đó hoặc phương tiện của họ, các tài nguyên để thực thi các tội ác được ghi lại thường không tồn tại. Các hệ thống giám sát phức tạp và đôi khi liên quan đến nhau được tìm thấy bên ngoài nhà của chúng ta chỉ hoạt động khi hầu hết chúng ta tin rằng có thể làm gì đó với dữ liệu được phát hiện.
Khi một công nghệ không hoạt động, chúng tôi có thể đưa ra các cải tiến lặp đi lặp lại, như là những cải tiến và đó là những gì có thể xảy ra với các camera giám sát. Ví dụ, các thành phố đã nhanh chóng áp dụng máy ảnh đeo được cho cảnh sát. Một lập luận cho các máy ảnh cơ thể này là chúng có thể giúp giữ cho các công dân (cũng như các sĩ quan) phù hợp hơn; một lập luận khác là họ có thể hỗ trợ điều tra và, có lẽ sớm, giám sát theo thời gian thực. Tuy nhiên, cách tiếp cận này không phải là không có sai sót, trong đó vẫn còn rất ít tài nguyên kiểm soát, và chi phí lưu trữ và quản lý tất cả các video camera trên cơ thể là vô cùng lớn đối với nhiều sở cảnh sát. Trong khi đó, nhiều ý kiến cho rằng nhiều việc có thể được thực hiện để cải thiện việc kiểm soát chính sách thông qua các hoạt động đào tạo và tương tác cộng đồng tốt hơn, thay vì các công nghệ tốt hơn hay các công nghệ bổ sung.
ĐỔI MỚI CÔNG NGHỆ GIÁM SÁT TIẾP THEO
Kết quả cuối cùng của các phương pháp này là chúng ta hiện có các camera giám sát có thể không hiệu quả vì nhiều lý do, nhưng đã trở thành một phần không thể thiếu của giám sát ở nơi công cộng và trong phạm vi tư nhân lớn hơn của các tập đoàn, cửa hàng, v.v. Trong một tình huống phức tạp và đòi hỏi sự tham gia của con người, thường có mong muốn về một giải pháp nhanh chóng, rẻ tiền, dựa trên những gì đã diễn ra trước đó, mà không tính đến việc chức năng bổ trợ có thể thay đổi kết quả như thế nào. Đây là cách nhận dạng khuôn mặt bắt đầu được coi là thuốc chữa bách bệnh, như là một tiện ích bổ sung trên cơ sở hạ tầng cho cơ sở hạ tầng của bộ máy giám sát.
Truyền thông đại chúng đã giúp đóng góp cho quan niệm đó. Trong khoa học viễn tưởng, công nghệ nhận dạng khuôn mặt chỉ hoạt động. Phim tôn vinh các thám tử và cảnh sát cứu nhân loại bằng cách sử dụng nhận dạng khuôn mặt để bắt giữ nhân vật phản diện. Điều này là không thực tế, vì khoa học viễn tưởng được viết theo kịch bản và cốt truyện và nhân vật của nó không hoạt động trong bất kỳ xã hội phụ thuộc lẫn nhau nào với nhiều kinh nghiệm, niềm tin và vấn đề đa chiều. Sự quyến rũ của những bộ phim khoa học viễn tưởng kinh phí lớn và công nghệ nhận thức về sự công nghệ của họ, là sức mạnh đối với cả các nhà công nghệ, những người sử dụng tiểu thuyết làm khuôn mẫu cho công nghệ mà họ muốn xây dựngvà cho chính quyền thành phố, những người chống lại thâm hụt ngân sách và có thể thấy sự liên kết với công nghệ mới nhất và lớn nhất của thành phố là một huy hiệu của sự thành công và địa vị. Các nhà công nghệ có thể không thường xuyên quan tâm, cũng không quen thuộc, với những gì họ xây dựng sẽ ảnh hưởng đến xã hội. Trong khi đó, một số thành phố dường như che đậy kết quả tiềm năng và tác động của công nghệ mới để ủng hộ việc cung cấp giường thử nghiệm miễn phí cho các công ty công nghệ hoặc hiểu sai về những gì sẽ xảy ra trong thị trấn của họ.
Về bản chất, nhận dạng khuôn mặt mang đến một lời hứa lấp lánh về việc dễ dàng nhận diện và bắt những kẻ hung ác, như trong phim, mà không phải thực hiện bất kỳ công việc lộn xộn nào trong việc hình thành mối quan hệ của con người và làm quen với mọi người trong cộng đồng. Việc cảnh sát sử dụng phần mềm sẽ an toàn hơn nhiều so với việc tương tác với những tên tội phạm nguy hiểm tiềm tàng, hoặc mạo hiểm để tham gia với mọi người để biết rằng thực tế họ không phải là tội phạm. Theo cách này, việc lắp ráp giàn giáo công nghệ xã hội của các camera giám sát, giờ đây có thể bao gồm nhận dạng khuôn mặt, bắt đầu được sử dụng như một ủy quyền cho kiến thức và hành vi của cộng đồng.
Nhưng dữ liệu đó không phải là sự thay thế chính xác cho kiến thức cộng đồng vì nó có thể bị hiểu sai và áp dụng sai. Công nghệ này không hoạt động đủ tốt cho tất cả mọi người một cách công bằng và công bằng, đặc biệt là đối với những người có giới tính không phải là người da trắng, không thuộc CIS : Như một nghiên cứu được trích dẫn rộng rãi của MIT vào năm ngoái, ba hệ thống phân tích khuôn mặt phổ biến cho thấy tỷ lệ lỗi là 0,8% đối với đàn ông da sáng so với 34,7% đối với phụ nữ da đen . Đối với các kịch bản thực thi pháp luật nói riêng, rủi ro của việc xác định sai người có thể nghiêm trọng.
Liên quan: Máy ảnh Cop có thể theo dõi bạn trong thời gian thực và không có gì ngăn cản họ
TỪ NHẬN DIỆN KHUÔN MẶT ĐẾN HỒ SƠ
Phần mềm nhận dạng khuôn mặt là một cải tiến trên camera giám sát, được triển khai để giải quyết vấn đề xã hội. Nhưng chỉ có con người, không phải công nghệ, có thể giải quyết các vấn đề xã hội. Tuy nhiên, mọi người có thể phải áp dụng công nghệ để giải quyết những vấn đề đó, và trong đó có mấu chốt của vấn đề khó khăn của chúng tôi: công nghệ nào là phù hợp, và công cụ nào không, và chúng tôi sử dụng công cụ nào, như Tiến sĩ Chowdhury và những người khác yêu cầu, để tạo thành một Xã hội an toàn và lành mạnh
Câu trả lời cho câu hỏi đó hiện đang được cung cấp mà không có đủ đầu vào công cộng. Các công cụ để nhận dạng khuôn mặt có sẵn rộng rãi và rẻ tiền, và được sử dụng mà không có quy định hoặc minh bạch, là điều đáng quan tâm nhất. Ngoài ra, không biết liệu các bộ phận cảnh sát thiếu nhân viên, có ý thức về ngân sách hay thiếu kinh nghiệm về công nghệ sẽ tuân thủ các quy tắc tự nguyện được đặt ra bởi các nhà cung cấp phần mềm nhận dạng khuôn mặt .
Khi phần mềm nhận dạng khuôn mặt của các công ty như Amazon được triển khai rộng rãi và chúng tôi là đối tượng trong các thí nghiệm không đồng nhất này, ứng dụng tiến bộ công nghệ tiếp theo có thể được nhập khẩu: trí thông minh nhân tạo sử dụng nhận dạng khuôn mặt để đưa ra kết luận về chúng tôi và về hành vi của chúng tôi. Đây là những gì đang xảy ra ở Trung Quốc, nơi AI và nhận dạng khuôn mặt đang được sử dụng để giám sát 11 triệu người Duy Ngô Nhĩ, một nhóm thiểu số Hồi giáo.
Công nghệ nhận dạng khuôn mặt, được tích hợp vào mạng lưới camera giám sát đang mở rộng nhanh chóng của Trung Quốc, trông dành riêng cho người Duy Ngô Nhĩ dựa trên ngoại hình của họ và lưu giữ hồ sơ về sự đến và đi của họ để tìm kiếm và đánh giá, Thời báo New York đưa tin gần đây. Thực tiễn làm cho Trung Quốc trở thành người tiên phong trong việc áp dụng công nghệ thế hệ tiếp theo để theo dõi người dân của họ, có khả năng mở ra một kỷ nguyên mới của phân biệt chủng tộc tự động.
Chính quyền và các công ty Trung Quốc đang sử dụng công nghệ để bắt các nghi phạm hình sự tại các sự kiện công cộng quy mô lớn và trong các tình huống mang tính tiêu cực hơn: xác định người tại sân bay và khách sạn , xấu hổ khi đi qua đường băng qua đường và để quảng cáo nhắm mục tiêu. Nhận dạng khuôn mặt cũng đang lan rộng khắp nước Mỹ, từ an ninh biên giới đến quảng cáo được cá nhân hóa ở lối đi trong tủ đông . Một nhóm bất động sản ở New York gần đây đã cố gắng tạo ra các khóa dựa trên nhận dạng khuôn mặt bắt buộc cho các đơn vị của họ trong các tòa nhà chung cư ổn định tiền thuê.
Có thể là chúng tôi đang ở trên đỉnh của một số công nghệ của chúng tôi về nhà để phát triển theo những cách mới đối với chúng tôi, cả hai đều đẩy ranh giới của chúng tôi và kiểm tra các quy tắc xã hội của chúng tôi . Ví dụ, một khi chúng ta là người nổi tiếng, thì thực tế là mọi nơi chúng ta đến, sau đó, giống như đã được thực hiện với các dữ liệu khác theo dõi và nhận ra chúng ta, chúng ta có thể liên tục được mô tả sơ lược. Khi chúng ta được định hình thành tiếng, thì người ta nghĩ rằng hành vi của chúng ta có thể được dự đoán theo thuật toán. Một khi các hành vi của chúng ta có thể được chính phủ và các nhà tiếp thị dự đoán, thì chúng ta có thể mất cơ quan (và ý thức thực tế) khi đối mặt với các thuật toán, tạo ra nhiều dữ liệu đáng tin cậy hơn so với tài khoản của chính chúng ta hoặc nhận thức và nhận thức về bản thân, hoặc những người chúng ta biết
Hợp tác đạt được khi tất cả các bên mang lại một chút những gì họ muốn để tạo ra một kết quả có thể chấp nhận được. Mặc dù đôi khi mọi người có thể tịch thu cơ quan của họ để hỗ trợ một kết quả mà họ muốn, nhưng đó không phải là một cách thông thường để làm điều này nhiều lần. Đó là nô lệ, nô lệ. Để không có đại lý, không có khả năng chọn cách người ta định hình hoặc bán một cái gì đó, làm suy yếu nền tảng hợp tác. Các ứng dụng AI sử dụng tính năng nhận dạng khuôn mặt để tiện lợi, trở thành một bước nguy hiểm hơn nữa trong công nghệ đổi mới công nghệ, xung quanh các công nghệ giám sát, vì chúng ta buộc phải bỏ đi ngày càng nhiều hơn.
Liên quan: Những gì chúng tôi hy sinh cho tự động hóa
Những nỗ lực cấm sử dụng phần mềm hoàn toàn đã gặp phải sự kháng cự. Các nhà lập pháp và các công ty như Microsoft hầu hết đã thúc đẩy các quy định, trong số những điều khác, bắt buộc phải có biển báo rõ ràng để cảnh báo mọi người khi các công cụ nhận dạng khuôn mặt đang được sử dụng ở nơi công cộng. Tuy nhiên, không có cách nào để từ chối giám sát trong một không gian công cộng hoặc riêng tư ngoại trừ rời khỏi khu vực đó, việc xác định các biển báo không cho mọi người lựa chọn hợp lý. Và không có phương tiện từ chối một hệ thống mạnh mẽ như vậy, con người bắt đầu trở thành nô lệ. Đây là lý do tại sao các luật nghiêm túc, có thể thi hành có thể đặt ra các hạn chế đối với nhận dạng khuôn mặt là rất quan trọng và tại sao cuộc thảo luận này rất quan trọng tại thời điểm phát triển công nghệ của chúng tôi.
Một khi nhận dạng khuôn mặt và AI khác trở nên phổ biến và trong trường hợp không có luật thực thi nghiêm túc có thể đưa ra các biện pháp bảo vệ đối với công nghệ, chúng tôi sẽ không được bảo vệ và vì vậy sẽ phải tuân theo bất kỳ mục đích nào mà chính phủ hoặc doanh nghiệp muốn đưa ra danh tính của chúng tôi và địa điểm. Đây là nơi mà lòng tham, lợi nhuận và quyền lực phát huy tác dụng như những động lực.
Nếu chúng ta muốn xác định những người khác nguy hiểm, thì có lẽ họ là những thực thể muốn chúng ta tịch thu khuôn mặt, danh tính và sự không đồng nhất của chúng ta không chỉ để họ có thể thu lợi mà còn là phương tiện phân loại tự động và kiểm soát xã hội. Đây là lý do tại sao nhận dạng khuôn mặt là một công nghệ quan trọng để chúng ta tranh luận, và tại sao số lượng ngày càng tăng trong chúng ta đã muốn cấm nó trong xã hội của chúng ta.
Các mối đe dọa leo của nhận dạng khuôn mặt
[Ảnh: AnitaVDB / iStock; Thor Alvis / Bapt]
BỞI SA APPLINĐỌC LÂU
Bài tiểu luận này là một phần của The Privacy Divide , một bộ truyện tìm hiểu những quan niệm sai lầm, chênh lệch và nghịch lý đã phát triển xung quanh ý thức về quyền riêng tư của chúng ta và những tác động rộng lớn hơn của nó đối với xã hội.
Trong một cuộc bỏ phiếu nhất trí vào thứ Hai, một ủy ban của chính phủ San Francisco đã đẩy thành phố tiến gần hơn tới việc ban hành lệnh cấm hoàn toàn đối với việc sử dụng công nghệ nhận diện khuôn mặt của chính phủ. Đây sẽ là thành phố đầu tiên của Hoa Kỳ làm như vậy: Khi cảnh sát, các cơ quan chính phủ và các doanh nghiệp hấp dẫn về công nghệ, không có luật liên bang cũng như các quy tắc địa phương mạnh mẽ chi phối việc sử dụng nó. Nhiều người trong chúng ta có vẻ cảnh giác với các hệ thống giám sát được thiết kế để tự động nhận dạng hoặc hồ sơ chúng tôi ở nơi công cộng, nhưng điều đó dường như không quá quan trọng, và đó là điều liên quan nhất.
Đây là một lỗ hổng cơ bản trong sự biện minh của chúng tôi đối với các công nghệ này, Trưởng nhóm AI có trách nhiệm của Rumman Chowdhury đã viết trên Twitter vào tháng trước, đề cập đến đề xuất của San Francisco. Có phải chúng ta đang sống trong một tình trạng đủ nguy hiểm mà chúng ta cần điều này không? Có phải giám sát trừng phạt làm thế nào chúng ta đạt được một xã hội lành mạnh và an toàn (không phải vậy)?
Câu hỏi của tôi về bất kỳ công nghệ mới nào đang được áp dụng nhanh chóng AR AR, VR, dữ liệu lớn, học máy, bất cứ điều gì, luôn luôn là tại sao? Tại sao các doanh nghiệp hoặc chính phủ muốn nhận diện khuôn mặt? Tôi đã không biện minh cho những công nghệ này, tôi đã trả lời. Những người nắm quyền lực là những người chủ yếu kiếm lợi từ nó. Điều này là thông qua việc chế tạo / bán thiết bị hoặc sử dụng công nghệ để giảm số lượng nhân viên bằng cách thay thế mọi người. Đây không phải là về xã hội hay thậm chí là văn minh, mà là về tiền bạc và quyền lực.
Nhưng tiền và quyền lực không phải là lý do duy nhất đằng sau nỗ lực nhận diện khuôn mặt. Hợp tác là cách con người đã xoay xở để tồn tại miễn là chúng ta có, và nhu cầu phân loại một số người như là những người khác đã xảy ra kể từ khi có con người. Thật không may, những quan niệm sai lầm và suy đoán về một số người trong chúng ta và cách chúng ta có thể cư xử đã góp phần vào sự sợ hãi và bất an giữa các công dân, chính phủ và thực thi pháp luật. Ngày nay, những ý tưởng đáng sợ đó, kết hợp với dân số đông hơn, di động hơn, đa dạng hơn, đã tạo ra một điều kiện để chúng ta biết về nhau, nhưng không biết nhau, chúng ta cũng không thường xuyên tham gia với mỗi người khác. cần thiết. Nỗi sợ hãi của chúng tôi trở thành một lý do khác để đầu tư vào bảo mật nhiều hơn, mặc dù, nếu chúng tôi dành thời gian để hòa đồng, cởi mở và hợp tác trong cộng đồng của chúng tôi,
THỬ NGHIỆM GIÁM SÁT LẪN NHAU
Tuy nhiên, thay vì cách tiếp cận đó, chúng tôi đã theo dõi nhau. Một cách để chúng tôi bắt đầu tăng cường khả năng nhận diện các loại khác của Keith là thông qua việc sử dụng các camera giám sát. Khi video giám sát trở nên hợp lý hơn, nhiều loại hình doanh nghiệp đã tăng khả năng giám sát bằng cách thêm camera vào vị trí thực tế của họ để ngăn chặn hành vi trộm cắp và bạo lực. Nhân viên bảo vệ sẽ giám sát các nguồn cấp dữ liệu video cũng như (hoặc thay vì) xem mọi người, nhưng theo thời gian, máy ảnh đã thay thế nhiều vệ sĩ của con người. Bằng cách này, ý tưởng về video giám sát đã trở thành một yếu tố ngăn chặn tâm lý nhiều như một nỗ lực kiểm soát: Vâng, chúng tôi đã được ghi lại, nhưng chúng tôi không biết có ai đang xem đoạn ghi âm không, chúng tôi cũng không biết liệu họ có hành động về những gì không họ đã thấy.
Khi các camera giám sát đã trở nên nhỏ hơn (và rẻ hơn), chúng đã được đưa vào nhiều sản phẩm tiêu dùng hơn, mang đến cho mọi người cơ hội kết hợp công nghệ này trong cuộc sống hàng ngày. Máy ảnh điện thoại thông minh của chúng tôi, chuông cửa mang nhãn hiệu Ring và camera giám sát nhỏ được giấu trong AirBnB, (và nhiều nơi khác trong xã hội) đã trở nên bình thường. Giám sát đã được phân phối giữa các chính phủ, tập đoàn và mỗi người chúng ta mang theo điện thoại thông minh hoặc máy quay video.
So với giám sát tổng quát hơn, các camera trong nhà có lợi thế hơn trong việc phòng thủ trước mối đe dọa của những người khác. Một ngôi nhà là một môi trường tương đối kín, và bất kỳ sự bất thường nào cũng có thể dễ dàng được xác định và báo cáo bởi chủ nhà hoặc phần mềm của họ trong thời gian thực. Chủ nhà rất thận trọng về tài sản của họ và có thể sử dụng các ứng dụng bổ sung cung cấp cho họ tin tức tội phạm địa phương và trong nhiều trường hợp cũng thuê một công ty bảo mật của bên thứ ba song song để theo dõi thêm. Cũng có ít dữ liệu để xử lý trong môi trường gia đình tư nhân, cũng như những người hàng xóm tìm kiếm các thực hành bất thường, thêm một lớp bổ sung của Hiểu biết và kiến thức cộng đồng vào quy trình giám sát.
Nhưng có một lỗ hổng lớn trong việc sử dụng công nghệ camera giám sát trong xã hội với quy mô lớn: việc sử dụng máy ảnh tạo ra nhiều cảnh quay đã tạo ra một vấn đề xử lý. Có rất nhiều cảnh quay, sao lưu mọi camera mà bạn có thể thấy, và nhiều camera bạn không thể sử dụng nhưng đơn giản là không có đủ người hoặc tài nguyên để xử lý và hiểu ý nghĩa của những hình ảnh được ghi lại. Ngay cả khi một tội phạm được phát hiện, hung thủ có thể đã thực hiện giờ trốn thoát, hoặc nhiều ngày, trước khi đoạn phim được nhìn thấy, nếu nó được nhìn thấy. Sự giám sát thâm hụt đó làm cho công nghệ dễ dàng phá vỡ. Sự thâm hụt giám sát đó đã thúc đẩy một số người đổi mới công việc (một quy trình được gọi là cơ quan bí mật của Hồi giáo ).
Ngay cả khi giả định rằng có một cách để kết hợp thông qua dữ liệu giám sát để tìm đủ dữ liệu để xác định ai đó hoặc phương tiện của họ, các tài nguyên để thực thi các tội ác được ghi lại thường không tồn tại. Các hệ thống giám sát phức tạp và đôi khi liên quan đến nhau được tìm thấy bên ngoài nhà của chúng ta chỉ hoạt động khi hầu hết chúng ta tin rằng có thể làm gì đó với dữ liệu được phát hiện.
Khi một công nghệ không hoạt động, chúng tôi có thể đưa ra các cải tiến lặp đi lặp lại, như là những cải tiến và đó là những gì có thể xảy ra với các camera giám sát. Ví dụ, các thành phố đã nhanh chóng áp dụng máy ảnh đeo được cho cảnh sát. Một lập luận cho các máy ảnh cơ thể này là chúng có thể giúp giữ cho các công dân (cũng như các sĩ quan) phù hợp hơn; một lập luận khác là họ có thể hỗ trợ điều tra và, có lẽ sớm, giám sát theo thời gian thực. Tuy nhiên, cách tiếp cận này không phải là không có sai sót, trong đó vẫn còn rất ít tài nguyên kiểm soát, và chi phí lưu trữ và quản lý tất cả các video camera trên cơ thể là vô cùng lớn đối với nhiều sở cảnh sát. Trong khi đó, nhiều ý kiến cho rằng nhiều việc có thể được thực hiện để cải thiện việc kiểm soát chính sách thông qua các hoạt động đào tạo và tương tác cộng đồng tốt hơn, thay vì các công nghệ tốt hơn hay các công nghệ bổ sung.
ĐỔI MỚI CÔNG NGHỆ GIÁM SÁT TIẾP THEO
Kết quả cuối cùng của các phương pháp này là chúng ta hiện có các camera giám sát có thể không hiệu quả vì nhiều lý do, nhưng đã trở thành một phần không thể thiếu của giám sát ở nơi công cộng và trong phạm vi tư nhân lớn hơn của các tập đoàn, cửa hàng, v.v. Trong một tình huống phức tạp và đòi hỏi sự tham gia của con người, thường có mong muốn về một giải pháp nhanh chóng, rẻ tiền, dựa trên những gì đã diễn ra trước đó, mà không tính đến việc chức năng bổ trợ có thể thay đổi kết quả như thế nào. Đây là cách nhận dạng khuôn mặt bắt đầu được coi là thuốc chữa bách bệnh, như là một tiện ích bổ sung trên cơ sở hạ tầng cho cơ sở hạ tầng của bộ máy giám sát.
Truyền thông đại chúng đã giúp đóng góp cho quan niệm đó. Trong khoa học viễn tưởng, công nghệ nhận dạng khuôn mặt chỉ hoạt động. Phim tôn vinh các thám tử và cảnh sát cứu nhân loại bằng cách sử dụng nhận dạng khuôn mặt để bắt giữ nhân vật phản diện. Điều này là không thực tế, vì khoa học viễn tưởng được viết theo kịch bản và cốt truyện và nhân vật của nó không hoạt động trong bất kỳ xã hội phụ thuộc lẫn nhau nào với nhiều kinh nghiệm, niềm tin và vấn đề đa chiều. Sự quyến rũ của những bộ phim khoa học viễn tưởng kinh phí lớn và công nghệ nhận thức về sự công nghệ của họ, là sức mạnh đối với cả các nhà công nghệ, những người sử dụng tiểu thuyết làm khuôn mẫu cho công nghệ mà họ muốn xây dựngvà cho chính quyền thành phố, những người chống lại thâm hụt ngân sách và có thể thấy sự liên kết với công nghệ mới nhất và lớn nhất của thành phố là một huy hiệu của sự thành công và địa vị. Các nhà công nghệ có thể không thường xuyên quan tâm, cũng không quen thuộc, với những gì họ xây dựng sẽ ảnh hưởng đến xã hội. Trong khi đó, một số thành phố dường như che đậy kết quả tiềm năng và tác động của công nghệ mới để ủng hộ việc cung cấp giường thử nghiệm miễn phí cho các công ty công nghệ hoặc hiểu sai về những gì sẽ xảy ra trong thị trấn của họ.
Về bản chất, nhận dạng khuôn mặt mang đến một lời hứa lấp lánh về việc dễ dàng nhận diện và bắt những kẻ hung ác, như trong phim, mà không phải thực hiện bất kỳ công việc lộn xộn nào trong việc hình thành mối quan hệ của con người và làm quen với mọi người trong cộng đồng. Việc cảnh sát sử dụng phần mềm sẽ an toàn hơn nhiều so với việc tương tác với những tên tội phạm nguy hiểm tiềm tàng, hoặc mạo hiểm để tham gia với mọi người để biết rằng thực tế họ không phải là tội phạm. Theo cách này, việc lắp ráp giàn giáo công nghệ xã hội của các camera giám sát, giờ đây có thể bao gồm nhận dạng khuôn mặt, bắt đầu được sử dụng như một ủy quyền cho kiến thức và hành vi của cộng đồng.
Nhưng dữ liệu đó không phải là sự thay thế chính xác cho kiến thức cộng đồng vì nó có thể bị hiểu sai và áp dụng sai. Công nghệ này không hoạt động đủ tốt cho tất cả mọi người một cách công bằng và công bằng, đặc biệt là đối với những người có giới tính không phải là người da trắng, không thuộc CIS : Như một nghiên cứu được trích dẫn rộng rãi của MIT vào năm ngoái, ba hệ thống phân tích khuôn mặt phổ biến cho thấy tỷ lệ lỗi là 0,8% đối với đàn ông da sáng so với 34,7% đối với phụ nữ da đen . Đối với các kịch bản thực thi pháp luật nói riêng, rủi ro của việc xác định sai người có thể nghiêm trọng.
Liên quan: Máy ảnh Cop có thể theo dõi bạn trong thời gian thực và không có gì ngăn cản họ
TỪ NHẬN DIỆN KHUÔN MẶT ĐẾN HỒ SƠ
Phần mềm nhận dạng khuôn mặt là một cải tiến trên camera giám sát, được triển khai để giải quyết vấn đề xã hội. Nhưng chỉ có con người, không phải công nghệ, có thể giải quyết các vấn đề xã hội. Tuy nhiên, mọi người có thể phải áp dụng công nghệ để giải quyết những vấn đề đó, và trong đó có mấu chốt của vấn đề khó khăn của chúng tôi: công nghệ nào là phù hợp, và công cụ nào không, và chúng tôi sử dụng công cụ nào, như Tiến sĩ Chowdhury và những người khác yêu cầu, để tạo thành một Xã hội an toàn và lành mạnh
Câu trả lời cho câu hỏi đó hiện đang được cung cấp mà không có đủ đầu vào công cộng. Các công cụ để nhận dạng khuôn mặt có sẵn rộng rãi và rẻ tiền, và được sử dụng mà không có quy định hoặc minh bạch, là điều đáng quan tâm nhất. Ngoài ra, không biết liệu các bộ phận cảnh sát thiếu nhân viên, có ý thức về ngân sách hay thiếu kinh nghiệm về công nghệ sẽ tuân thủ các quy tắc tự nguyện được đặt ra bởi các nhà cung cấp phần mềm nhận dạng khuôn mặt .
Khi phần mềm nhận dạng khuôn mặt của các công ty như Amazon được triển khai rộng rãi và chúng tôi là đối tượng trong các thí nghiệm không đồng nhất này, ứng dụng tiến bộ công nghệ tiếp theo có thể được nhập khẩu: trí thông minh nhân tạo sử dụng nhận dạng khuôn mặt để đưa ra kết luận về chúng tôi và về hành vi của chúng tôi. Đây là những gì đang xảy ra ở Trung Quốc, nơi AI và nhận dạng khuôn mặt đang được sử dụng để giám sát 11 triệu người Duy Ngô Nhĩ, một nhóm thiểu số Hồi giáo.
Công nghệ nhận dạng khuôn mặt, được tích hợp vào mạng lưới camera giám sát đang mở rộng nhanh chóng của Trung Quốc, trông dành riêng cho người Duy Ngô Nhĩ dựa trên ngoại hình của họ và lưu giữ hồ sơ về sự đến và đi của họ để tìm kiếm và đánh giá, Thời báo New York đưa tin gần đây. Thực tiễn làm cho Trung Quốc trở thành người tiên phong trong việc áp dụng công nghệ thế hệ tiếp theo để theo dõi người dân của họ, có khả năng mở ra một kỷ nguyên mới của phân biệt chủng tộc tự động.
Chính quyền và các công ty Trung Quốc đang sử dụng công nghệ để bắt các nghi phạm hình sự tại các sự kiện công cộng quy mô lớn và trong các tình huống mang tính tiêu cực hơn: xác định người tại sân bay và khách sạn , xấu hổ khi đi qua đường băng qua đường và để quảng cáo nhắm mục tiêu. Nhận dạng khuôn mặt cũng đang lan rộng khắp nước Mỹ, từ an ninh biên giới đến quảng cáo được cá nhân hóa ở lối đi trong tủ đông . Một nhóm bất động sản ở New York gần đây đã cố gắng tạo ra các khóa dựa trên nhận dạng khuôn mặt bắt buộc cho các đơn vị của họ trong các tòa nhà chung cư ổn định tiền thuê.
Có thể là chúng tôi đang ở trên đỉnh của một số công nghệ của chúng tôi về nhà để phát triển theo những cách mới đối với chúng tôi, cả hai đều đẩy ranh giới của chúng tôi và kiểm tra các quy tắc xã hội của chúng tôi . Ví dụ, một khi chúng ta là người nổi tiếng, thì thực tế là mọi nơi chúng ta đến, sau đó, giống như đã được thực hiện với các dữ liệu khác theo dõi và nhận ra chúng ta, chúng ta có thể liên tục được mô tả sơ lược. Khi chúng ta được định hình thành tiếng, thì người ta nghĩ rằng hành vi của chúng ta có thể được dự đoán theo thuật toán. Một khi các hành vi của chúng ta có thể được chính phủ và các nhà tiếp thị dự đoán, thì chúng ta có thể mất cơ quan (và ý thức thực tế) khi đối mặt với các thuật toán, tạo ra nhiều dữ liệu đáng tin cậy hơn so với tài khoản của chính chúng ta hoặc nhận thức và nhận thức về bản thân, hoặc những người chúng ta biết
Hợp tác đạt được khi tất cả các bên mang lại một chút những gì họ muốn để tạo ra một kết quả có thể chấp nhận được. Mặc dù đôi khi mọi người có thể tịch thu cơ quan của họ để hỗ trợ một kết quả mà họ muốn, nhưng đó không phải là một cách thông thường để làm điều này nhiều lần. Đó là nô lệ, nô lệ. Để không có đại lý, không có khả năng chọn cách người ta định hình hoặc bán một cái gì đó, làm suy yếu nền tảng hợp tác. Các ứng dụng AI sử dụng tính năng nhận dạng khuôn mặt để tiện lợi, trở thành một bước nguy hiểm hơn nữa trong công nghệ đổi mới công nghệ, xung quanh các công nghệ giám sát, vì chúng ta buộc phải bỏ đi ngày càng nhiều hơn.
Liên quan: Những gì chúng tôi hy sinh cho tự động hóa
Những nỗ lực cấm sử dụng phần mềm hoàn toàn đã gặp phải sự kháng cự. Các nhà lập pháp và các công ty như Microsoft hầu hết đã thúc đẩy các quy định, trong số những điều khác, bắt buộc phải có biển báo rõ ràng để cảnh báo mọi người khi các công cụ nhận dạng khuôn mặt đang được sử dụng ở nơi công cộng. Tuy nhiên, không có cách nào để từ chối giám sát trong một không gian công cộng hoặc riêng tư ngoại trừ rời khỏi khu vực đó, việc xác định các biển báo không cho mọi người lựa chọn hợp lý. Và không có phương tiện từ chối một hệ thống mạnh mẽ như vậy, con người bắt đầu trở thành nô lệ. Đây là lý do tại sao các luật nghiêm túc, có thể thi hành có thể đặt ra các hạn chế đối với nhận dạng khuôn mặt là rất quan trọng và tại sao cuộc thảo luận này rất quan trọng tại thời điểm phát triển công nghệ của chúng tôi.
Một khi nhận dạng khuôn mặt và AI khác trở nên phổ biến và trong trường hợp không có luật thực thi nghiêm túc có thể đưa ra các biện pháp bảo vệ đối với công nghệ, chúng tôi sẽ không được bảo vệ và vì vậy sẽ phải tuân theo bất kỳ mục đích nào mà chính phủ hoặc doanh nghiệp muốn đưa ra danh tính của chúng tôi và địa điểm. Đây là nơi mà lòng tham, lợi nhuận và quyền lực phát huy tác dụng như những động lực.
Nếu chúng ta muốn xác định những người khác nguy hiểm, thì có lẽ họ là những thực thể muốn chúng ta tịch thu khuôn mặt, danh tính và sự không đồng nhất của chúng ta không chỉ để họ có thể thu lợi mà còn là phương tiện phân loại tự động và kiểm soát xã hội. Đây là lý do tại sao nhận dạng khuôn mặt là một công nghệ quan trọng để chúng ta tranh luận, và tại sao số lượng ngày càng tăng trong chúng ta đã muốn cấm nó trong xã hội của chúng ta.
Nhận xét
Đăng nhận xét