Startup nổi tiếng này tuyên bố sẽ cứu sống với AI. Bây giờ, đó là một câu chuyện cảnh báo
Một cuộc điều tra của 'Thời báo New York' về nền tảng ứng phó thảm họa One Concern cho thấy cách công ty sử dụng thiết kế bóng bẩy để che đậy những điểm không chính xác.
Startup nổi tiếng này tuyên bố sẽ cứu sống với AI. Bây giờ, đó là một câu chuyện cảnh báo
[Ảnh chụp màn hình: Một mối quan tâm]
BỞI KATHARINE SCHWAB3 PHÚT ĐỌC
Hãy cảnh giác với bất kỳ công ty nào tuyên bố sẽ cứu thế giới bằng trí tuệ nhân tạo.
Tuần trước, New York Times đã công bố một cuộc điều tra về One Concern , một nền tảng được thiết kế để giúp các thành phố và quận tạo ra các kế hoạch ứng phó thảm họa . Công ty tuyên bố sử dụng rất nhiều dữ liệu từ các nguồn khác nhau để dự đoán cách thức động đất và lũ lụt sẽ ảnh hưởng đến một thành phố trên cơ sở xây dựng với độ chính xác 85%, trong vòng 15 phút sau thảm họa xảy ra tại một thành phố. Nhưng Times báo cáo rằng San Francisco, một trong những thành phố đầu tiên đã ký kết sử dụng nền tảng của One Concern, sẽ chấm dứt hợp đồng với công ty khởi nghiệp do lo ngại về tính chính xác của dự đoán.
The Times vẽ một bức tranh về giao diện bóng bẩy (được vinh danh trong Giải thưởng sáng tạo năm 2018 của Công ty nhanh và giải thưởng Ý tưởng thay đổi thế giới 2019 ) che giấu các vấn đề . Giao diện kiểu bản đồ nhiệt được cho là cho thấy các quan chức thành phố gần với dự đoán thiệt hại theo thời gian thực sau trận động đất hoặc lũ lụt, cũng như chạy mô phỏng các trận động đất trong tương lai và cung cấp mức độ thiệt hại cho mỗi khối, giúp các nhà hoạch định quyết định cách phân phối tài nguyên tiếp cận những người sẽ cần sự giúp đỡ nhất.
Như tôi đã viết lại vào tháng 11 năm 2018 trên giao diện của One Concern:
Nó gần giống như chơi SimCity , nơi các nhà quy hoạch bấm vào một lỗi, xem điều gì xảy ra với từng tòa nhà, sau đó thêm các biểu tượng như bao cát, nơi trú ẩn hoặc xe cứu hỏa để xem các chiến thuật chuẩn bị này ảnh hưởng đến mô phỏng như thế nào. Tất cả điều này xảy ra trong một giao diện bản đồ được mã hóa màu tương đối đơn giản, nơi người dùng chuyển đổi trên các lớp khác nhau như nhân khẩu học và cơ sở hạ tầng quan trọng để hiểu thiệt hại có nghĩa sâu hơn.
Chính thiết kế dễ sử dụng này đã thuyết phục cựu giám đốc quản lý khẩn cấp của San Francisco đăng nhập để sử dụng nền tảng này vì nó đơn giản và trực quan hơn nhiều so với dịch vụ miễn phí do Fema cung cấp để dự đoán thiệt hại do động đất.
Nhưng sự tinh vi kỹ thuật chỉ là không có, theo báo cáo. Một nhân viên tại bộ phận quản lý khẩn cấp của Seattle nói với tờ Times rằng bản đồ mô phỏng trận động đất của One Concern có lỗ hổng trong các khu phố thương mại, điều mà One Concern nói là do công ty chủ yếu dựa vào dữ liệu điều tra dân số. Ông nhận thấy những đánh giá của công ty về thiệt hại do động đất trong tương lai là không thực tế: Tòa nhà nơi bộ phận quản lý khẩn cấp làm việc được thiết kế để đảm bảo an toàn cho trận động đất, nhưng thuật toán của One Concern xác định rằng nó sẽ có thiệt hại nặng nề, và công ty cho thấy số lượng rủi ro dự kiến lớn hơn cấu trúc bởi vì nó đã tính toán mỗi căn hộ trong một tòa nhà cao tầng như một tòa nhà riêng biệt. Nhân viên này đã chia sẻ tất cả những vấn đề này với Times.
[Hình ảnh: lịch sự Một mối quan tâm]
Một quan tâm từ chối bình luận công khai về báo cáo. Trong câu chuyện của Times , Giám đốc điều hành và đồng sáng lập của Ahern Ahmad Wani nói rằng công ty đã liên tục yêu cầu các thành phố cung cấp thêm dữ liệu để cải thiện dự đoán của mình và One Concern không cố gắng thay thế phán quyết của các nhà hoạch định quản lý khẩn cấp có kinh nghiệm.
Nhiều nhân viên cũ đã chia sẻ những hiểu lầm về tuyên bố của startup, và không giống như các đối thủ cạnh tranh như startup dự đoán lũ lụt Fathom, không có thuật toán nào của nó được các nhà nghiên cứu độc lập xem xét với kết quả được công bố trên các tạp chí học thuật. The Times tường thuật: Tương tự, mô phỏng trận động đất của một mối quan tâm dựa trên phương pháp dự đoán thiệt hại miễn phí của Fema được gọi là P58, với các tính toán được thực hiện bởi một công ty khác, Haselton Baker Risk Group, cũng như dữ liệu công khai miễn phí rộng rãi, trong khi tính phí các thành phố như San Francisco 148.000 đô la để sử dụng nền tảng trong hai năm. Ngoài ra, Thời báo nhận thấy rằng One Concern đã bắt đầu hợp tác với các công ty bảo hiểm, có thể sử dụng các dự đoán thảm họa của mình để tăng lãi suất, một phần vì chỉ có một vài thành phố đã trả tiền cho sản phẩm của mình cho đến nay, một động thái khiến một số nhân viên cũ cảm thấy vỡ mộng với công ty sứ mệnh.
Như cuộc điều tra của Times cho thấy, thành công ban đầu của startup với 55 triệu đô la vốn đầu tư mạo hiểm, các cố vấn như một vị tướng đã nghỉ hưu, cựu giám đốc CIA David Petraeus, và các thành viên trong nhóm như cựu lãnh đạo Fema Craig Fugate, đã được xây dựng dựa trên những tuyên bố sai lệch và kiểu dáng đẹp.
Sự phấn khích về cách trí thông minh nhân tạo có thể khắc phục các vấn đề có vẻ khó hiểu chắc chắn không giúp ích gì. Năm ngoái tôi đã viết về tiềm năng của một mối quan tâm : Một khi biến đổi khí hậu báo hiệu những thảm họa thiên nhiên tàn khốc hơn, các thành phố sẽ cần phải suy nghĩ lại về cách họ lên kế hoạch và ứng phó với thảm họa. Trí tuệ nhân tạo, như nền tảng One Concern đã phát triển, đưa ra một giải pháp trêu ngươi. Nhưng nó mới và chưa được kiểm chứng.
Với công nghệ bị lỗi được báo cáo là không chính xác như công ty nói, One Concern có thể khiến cuộc sống của mọi người gặp nguy hiểm.
Startup nổi tiếng này tuyên bố sẽ cứu sống với AI. Bây giờ, đó là một câu chuyện cảnh báo
[Ảnh chụp màn hình: Một mối quan tâm]
BỞI KATHARINE SCHWAB3 PHÚT ĐỌC
Hãy cảnh giác với bất kỳ công ty nào tuyên bố sẽ cứu thế giới bằng trí tuệ nhân tạo.
Tuần trước, New York Times đã công bố một cuộc điều tra về One Concern , một nền tảng được thiết kế để giúp các thành phố và quận tạo ra các kế hoạch ứng phó thảm họa . Công ty tuyên bố sử dụng rất nhiều dữ liệu từ các nguồn khác nhau để dự đoán cách thức động đất và lũ lụt sẽ ảnh hưởng đến một thành phố trên cơ sở xây dựng với độ chính xác 85%, trong vòng 15 phút sau thảm họa xảy ra tại một thành phố. Nhưng Times báo cáo rằng San Francisco, một trong những thành phố đầu tiên đã ký kết sử dụng nền tảng của One Concern, sẽ chấm dứt hợp đồng với công ty khởi nghiệp do lo ngại về tính chính xác của dự đoán.
The Times vẽ một bức tranh về giao diện bóng bẩy (được vinh danh trong Giải thưởng sáng tạo năm 2018 của Công ty nhanh và giải thưởng Ý tưởng thay đổi thế giới 2019 ) che giấu các vấn đề . Giao diện kiểu bản đồ nhiệt được cho là cho thấy các quan chức thành phố gần với dự đoán thiệt hại theo thời gian thực sau trận động đất hoặc lũ lụt, cũng như chạy mô phỏng các trận động đất trong tương lai và cung cấp mức độ thiệt hại cho mỗi khối, giúp các nhà hoạch định quyết định cách phân phối tài nguyên tiếp cận những người sẽ cần sự giúp đỡ nhất.
Như tôi đã viết lại vào tháng 11 năm 2018 trên giao diện của One Concern:
Nó gần giống như chơi SimCity , nơi các nhà quy hoạch bấm vào một lỗi, xem điều gì xảy ra với từng tòa nhà, sau đó thêm các biểu tượng như bao cát, nơi trú ẩn hoặc xe cứu hỏa để xem các chiến thuật chuẩn bị này ảnh hưởng đến mô phỏng như thế nào. Tất cả điều này xảy ra trong một giao diện bản đồ được mã hóa màu tương đối đơn giản, nơi người dùng chuyển đổi trên các lớp khác nhau như nhân khẩu học và cơ sở hạ tầng quan trọng để hiểu thiệt hại có nghĩa sâu hơn.
Chính thiết kế dễ sử dụng này đã thuyết phục cựu giám đốc quản lý khẩn cấp của San Francisco đăng nhập để sử dụng nền tảng này vì nó đơn giản và trực quan hơn nhiều so với dịch vụ miễn phí do Fema cung cấp để dự đoán thiệt hại do động đất.
Nhưng sự tinh vi kỹ thuật chỉ là không có, theo báo cáo. Một nhân viên tại bộ phận quản lý khẩn cấp của Seattle nói với tờ Times rằng bản đồ mô phỏng trận động đất của One Concern có lỗ hổng trong các khu phố thương mại, điều mà One Concern nói là do công ty chủ yếu dựa vào dữ liệu điều tra dân số. Ông nhận thấy những đánh giá của công ty về thiệt hại do động đất trong tương lai là không thực tế: Tòa nhà nơi bộ phận quản lý khẩn cấp làm việc được thiết kế để đảm bảo an toàn cho trận động đất, nhưng thuật toán của One Concern xác định rằng nó sẽ có thiệt hại nặng nề, và công ty cho thấy số lượng rủi ro dự kiến lớn hơn cấu trúc bởi vì nó đã tính toán mỗi căn hộ trong một tòa nhà cao tầng như một tòa nhà riêng biệt. Nhân viên này đã chia sẻ tất cả những vấn đề này với Times.
[Hình ảnh: lịch sự Một mối quan tâm]
Một quan tâm từ chối bình luận công khai về báo cáo. Trong câu chuyện của Times , Giám đốc điều hành và đồng sáng lập của Ahern Ahmad Wani nói rằng công ty đã liên tục yêu cầu các thành phố cung cấp thêm dữ liệu để cải thiện dự đoán của mình và One Concern không cố gắng thay thế phán quyết của các nhà hoạch định quản lý khẩn cấp có kinh nghiệm.
Nhiều nhân viên cũ đã chia sẻ những hiểu lầm về tuyên bố của startup, và không giống như các đối thủ cạnh tranh như startup dự đoán lũ lụt Fathom, không có thuật toán nào của nó được các nhà nghiên cứu độc lập xem xét với kết quả được công bố trên các tạp chí học thuật. The Times tường thuật: Tương tự, mô phỏng trận động đất của một mối quan tâm dựa trên phương pháp dự đoán thiệt hại miễn phí của Fema được gọi là P58, với các tính toán được thực hiện bởi một công ty khác, Haselton Baker Risk Group, cũng như dữ liệu công khai miễn phí rộng rãi, trong khi tính phí các thành phố như San Francisco 148.000 đô la để sử dụng nền tảng trong hai năm. Ngoài ra, Thời báo nhận thấy rằng One Concern đã bắt đầu hợp tác với các công ty bảo hiểm, có thể sử dụng các dự đoán thảm họa của mình để tăng lãi suất, một phần vì chỉ có một vài thành phố đã trả tiền cho sản phẩm của mình cho đến nay, một động thái khiến một số nhân viên cũ cảm thấy vỡ mộng với công ty sứ mệnh.
Như cuộc điều tra của Times cho thấy, thành công ban đầu của startup với 55 triệu đô la vốn đầu tư mạo hiểm, các cố vấn như một vị tướng đã nghỉ hưu, cựu giám đốc CIA David Petraeus, và các thành viên trong nhóm như cựu lãnh đạo Fema Craig Fugate, đã được xây dựng dựa trên những tuyên bố sai lệch và kiểu dáng đẹp.
Sự phấn khích về cách trí thông minh nhân tạo có thể khắc phục các vấn đề có vẻ khó hiểu chắc chắn không giúp ích gì. Năm ngoái tôi đã viết về tiềm năng của một mối quan tâm : Một khi biến đổi khí hậu báo hiệu những thảm họa thiên nhiên tàn khốc hơn, các thành phố sẽ cần phải suy nghĩ lại về cách họ lên kế hoạch và ứng phó với thảm họa. Trí tuệ nhân tạo, như nền tảng One Concern đã phát triển, đưa ra một giải pháp trêu ngươi. Nhưng nó mới và chưa được kiểm chứng.
Với công nghệ bị lỗi được báo cáo là không chính xác như công ty nói, One Concern có thể khiến cuộc sống của mọi người gặp nguy hiểm.
Nhận xét
Đăng nhận xét