Data science

Đừng quên yếu tố con người trong các hệ thống tự trị và phát triển trí tuệ nhân tạo

Không cần phải nói rằng con người là đối tượng được hưởng lợi từ các ứng dụng AI và hệ thống tự trị mà các nhà khoa học và nhà phát triển dữ liệu đang tạo ra. Nhưng cách tốt nhất để thiết kế các ứng dụng AI và hệ thống tự trị này nhằm tối đa hóa sự tương tác của con người và lợi ích của con người là gì? Đó là một câu hỏi khó trả lời hơn. Đây cũng là nơi tập trung của các chuyên gia về yếu tố con người, những người ngày càng có nhu cầu cao. Datanami gần đây đã bắt kịp một trong những chuyên gia về nhân tố con người đang được yêu cầu này. Catherine Neubauer là một nhà tâm lý học nghiên cứu tại Phòng thí nghiệm Nghiên cứu Quân đội, và là giảng viên tại Chương trình Thạc sĩ Khoa học Ứng dụng Trực tuyến của Đại học Nam California. Neubauer, người có bằng Tiến sĩ trong Tâm lý học với sự nhấn mạnh vào Các yếu tố con người từ Đại học Cincinnati, đã nghiên cứu các khía cạnh khác nhau của phương trình các yếu tố con người, bao gồm đánh giá hiệu suất của con người và ra quyết định. Theo Neubauer, có một loạt mối quan tâm về nơi con người và công nghệ mới nhất kết hợp với nhau. Cô nói: “AI và các hệ thống tự trị đang thực sự trở nên rất phổ biến trong các tương tác hàng ngày của chúng ta. “Chúng tôi thực sự cần tập trung vào chúng bởi vì nếu chúng tôi không thiết kế chúng với người dùng là con người, thì sự tương tác đó sẽ không dễ dàng hoặc như mong muốn.” Là một nhà tâm lý học ứng dụng làm việc trong lĩnh vực này, Neubauer hiểu vấn đề từ nhiều góc độ. Một mặt, cô ấy muốn hiểu cách con người tương tác với các hệ thống tự trị và AI để con người có thể được đào tạo tốt hơn để làm việc với các hệ thống thế hệ tiếp theo. Mặt khác, công việc của cô cũng thông báo cho các nhà khoa học và nhà phát triển dữ liệu về cách họ có thể xây dựng các hệ thống tốt hơn, lấy con người làm trung tâm. Có nhiều chỗ để cải thiện cả hai mặt của phương trình. “Tôi nghĩ rằng chúng ta đang đạt được điều đó,” cô nói, “nhưng tôi nghĩ rằng cần phải làm việc nhiều hơn nữa.” Ô tô Tesla có chế độ tự lái, nhưng nhà sản xuất ô tô cảnh báo người dùng không nên dựa vào nó (Flystock / Shutterstock) Ví dụ, trong đấu trường lái xe tự hành, nơi Neubauer đã dành một khoảng thời gian đáng kể, mọi người có thể cảm thấy rằng sự tiến bộ vượt bậc là đang được thực hiện. Rốt cuộc, một số xe ô tô mới về cơ bản có thể tự lái, ít nhất là trong một số trường hợp. Nhưng những trải nghiệm “aha” đó không giống như những gì chúng có thể xảy ra, cô ấy nói. “Có ý tưởng này là 'Ồ tuyệt, tôi có chiếc xe tự lái này. Đó là một chiếc Tesla. Tôi chỉ có thể ngồi lại và không chú ý buồn ngủ.' Không phải vậy đâu. Chúng tôi vẫn chưa ở đó, ”cô nói với Datanami trong một cuộc phỏng vấn gần đây. “Có những hạn chế đối với công nghệ này. Ở trạng thái lý tưởng, có, nó có thể tự lái vòng quanh. Nhưng con người phải luôn sẵn sàng nắm quyền kiểm soát nếu họ cần. ” Tương tự, những tiến bộ trong xử lý ngôn ngữ tự nhiên (NLP) đã tăng cường khả năng của các trợ lý cá nhân, vốn có thể hiểu và trả lời các câu hỏi và yêu cầu ngày càng phức tạp hơn. Nhưng một lần nữa, những thành quả đạt được không được làm lu mờ thực tế là cần phải làm việc nhiều hơn nữa. “Tôi nghĩ rằng chúng tôi đang làm tốt theo nghĩa là chúng tôi đã thu được lợi nhuận rất lớn và những gì chúng tôi có thể làm được,” cô nói. “Nhưng tôi vẫn nghĩ rằng bạn biết rằng cần phải làm nhiều việc hơn để đưa nó đến nơi mà bạn biết rằng bạn có thể dễ dàng tương tác với một trợ lý cá nhân, rằng nó giống như một con rô bốt hoặc một cái gì đó tương tự, không có sai sót, không có lỗi. Chúng tôi vẫn đang nhìn thấy một số khúc mắc cần được khắc phục. ” Một số nghiên cứu mới nhất của Neubauer liên quan đến thuật toán phát hiện cảm xúc của con người. Công nghệ thị giác máy tính đã đạt được những bước tiến lớn không chỉ trong việc có thể nhận dạng các khuôn mặt cụ thể mà còn có thể phát hiện tâm trạng của ai đó dựa trên cách khuôn mặt của họ xuất hiện. Biết được con người đang vui, buồn hay tức giận có thể rất có giá trị và các chính phủ trên thế giới đang đầu tư vào công nghệ như một phần trong các sáng kiến ​​quốc phòng của họ. Nhưng, một lần nữa, công nghệ này vẫn chưa hoàn toàn ở đó, Neubauer nói. Các sản phẩm AI tốt nhất được thiết kế với tâm trí con người (Aurielaki / Shutterstock) “Trong khi tôi nghĩ rằng thật tuyệt khi chúng tôi có hệ thống phân loại này để đọc cảm xúc, nhưng bạn phải hiểu điều đó bằng một hạt muối, bởi vì mọi người thể hiện cảm xúc theo cách khác nhau, ”cô nói. “Và một số người có thể cảm thấy thực sự hạnh phúc, nhưng họ không thể hiện ra bên ngoài. Một số người có thể cảm thấy thực sự buồn hoặc chán nản, nhưng bạn có thể không thấy điều đó được thể hiện vì bất cứ lý do gì ”. Thay vì chỉ sử dụng thuật toán thị giác máy tính, Neubauer đang nghiên cứu các hình thức phát hiện cảm xúc đa phương thức. Cô nói rằng đây là một lĩnh vực nghiên cứu đầy hứa hẹn. “Tôi sẽ không tập trung đặc biệt vào nét mặt. Tôi sẽ lấy các luồng dữ liệu khác để cung cấp cho tôi thêm thông tin về một con người, ”cô nói. Vì vậy, các nhà khoa học dữ liệu và các nhà phát triển hệ thống tự trị nên làm gì nếu họ muốn hưởng lợi từ nghiên cứu nhân tố con người? Số một là biết người dùng của bạn. Neubauer nói: “Tôi nghĩ rằng các sản phẩm hoặc hệ thống hoặc công nghệ tốt nhất mà chúng tôi tương tác đã được thiết kế cho người dùng. “Đầu tiên và quan trọng nhất, bạn phải đảm bảo rằng bạn thiết kế hệ thống cho người dùng của mình, để họ dễ sử dụng.” Một nguyên tắc chung với kiểu tư duy thiết kế này là làm cho sản phẩm dễ sử dụng đến mức không cần phải có sách hướng dẫn. Điều này thường đòi hỏi phải hạn chế các cách thức mà người dùng có thể tương tác với một ứng dụng hoặc một hệ thống và để khuyến khích sự khám phá. (Tất nhiên, có một giới hạn đối với quy tắc này – sau tất cả, Tesla nói với người dùng trong sách hướng dẫn rằng hãy luôn sẵn sàng tiếp nhận quyền kiểm soát, nhưng nhiều người rõ ràng là bỏ qua điều này.) Lời khuyên thứ hai của Neubauer dành cho nhà khoa học dữ liệu và các nhà phát triển hệ thống tự trị những người muốn kết hợp các yếu tố con người tiến bộ vào công việc của họ, thú vị là liên quan đến đạo đức. “Tôi thích nghĩ mình là một người có đạo đức, và tôi luôn nghĩ xem nghiên cứu và công việc của mình đang đi đến đâu, và ai sẽ sử dụng nó,” cô nói. “Chỉ vì chúng ta có thể làm điều gì đó với công nghệ không có nghĩa là chúng ta nên làm. Vì vậy, bất cứ khi nào chúng ta triển khai công nghệ này, xây dựng các hệ thống mới, chúng ta phải tự hỏi mình, nó có thực sự giúp ích cho xã hội không? Và nó đang giúp ai? ” Catherine Neubauer, Tiến sĩ, là một nhà tâm lý học nghiên cứu tại Phòng thí nghiệm Nghiên cứu Quân đội và là giảng viên về các yếu tố con người tại USC Không phải tất cả mọi người đều giỏi đánh giá rủi ro. Nó không nhất thiết phải là một bằng cấp mà các nhà khoa học dữ liệu sẽ tìm kiếm để xây dựng hoặc đưa vào sơ yếu lý lịch của họ. Nhưng theo cách đọc của Neubauer, đánh giá rủi ro nên là một phần của quá trình sáng tạo đối với những người tạo ra các ứng dụng AI và hệ thống tự trị, đặc biệt là khi đề cập đến những rủi ro mà họ đang yêu cầu người dùng thực hiện. Rủi ro về một kết quả xấu cao hơn đáng kể khi AI và các tính năng tự hành được tích hợp vào ô tô tự lái, hệ thống lái tự động trong máy bay và hệ thống kiểm soát giao thông cho tàu hỏa, chẳng hạn như khi họ phát triển một trợ lý cá nhân hoặc thêm các tính năng xác suất vào một chương trình xử lý văn bản (Clippy, đang xem xét bạn). “Nếu đó là một loại kịch bản căng thẳng, đặt cược cao và tôi có một nhân viên tự quản làm việc với tôi và tôi [tells] tôi nên đi sang trái khi tôi nên đi phải, bởi vì đó là dữ liệu mà nó đã đào tạo ra quyết định của mình, đó là sẽ là một vấn đề, ”Neubauer nói. “Mặt khác, có thể bạn là một bác sĩ phẫu thuật sắp phẫu thuật. Bạn muốn đảm bảo rằng trợ lý cá nhân của bạn đang cho bạn biết cuộc hẹn của bạn là gì. Vì vậy, tôi nghĩ điều đó phụ thuộc vào tình huống mà bạn đang ở và điều quan trọng là phải đảm bảo rằng chúng tôi có một tỷ lệ phần trăm hoặc khả năng xảy ra lỗi rất nhỏ, nếu không muốn nói là không tồn tại. ” Có vẻ như chúng ta đang bắt đầu một giai đoạn phát triển vượt bậc trong lĩnh vực AI và các hệ thống tự trị. Có nhiều khía cạnh của cuộc sống và xã hội có thể được hưởng lợi từ việc ra quyết định dựa trên dữ liệu ở một mức độ nhất định. Nhưng về lâu dài, có những khía cạnh vô hình khác đối với phương trình nhân tố con người cần được xem xét kỹ lưỡng. Neubauer hiểu rằng AI và các hệ thống tự trị có thể làm giảm khối lượng công việc nhận thức của chúng ta và cho phép chúng ta hoàn thành nhiều việc hơn. Nhưng cô ấy cũng tự hỏi việc sử dụng ngày càng nhiều công nghệ này sẽ tác động như thế nào đến sự phát triển của con người. “Đôi khi tôi lo ngại rằng về cơ bản chúng ta có những trợ lý cá nhân này trong điện thoại nhắc nhở chúng ta làm mọi thứ,” cô nói. “Chúng tôi không phải ghi nhớ số điện thoại nữa. Điều gì sẽ thực sự xảy ra với hệ thống nhận thức của chúng ta nếu chúng ta có GPS đưa chúng ta đi khắp mọi nơi? Chúng tôi thực sự không cần phải phát triển một bản đồ tinh thần về các thành phố chúng tôi đang sống. Những kỹ năng cơ bản đó khiến tôi lo lắng rằng chúng không được sử dụng. Và nếu chúng không được sử dụng ở đó, chúng tôi sẽ không mạnh trong những lĩnh vực đó ”. Các mục liên quan: Tại sao sự hòa nhập của con người lại quan trọng đối với tương lai của AI Thế hệ tiếp theo của AI: Quyền tự chủ của người dùng AI có thể giải thích được và cuộc chiến dữ liệu đang chờ xử lý

Back to top button