AI tạo sinh đang cách mạng hóa hoạt động kinh doanh thông qua nhiều ứng dụng khác nhau, bao gồm các trợ lý đàm thoại như Rufus và Amazon Seller Assistant của Amazon. Ngoài ra, một số ứng dụng AI tạo sinh có ảnh hưởng nhất hoạt động độc lập ở chế độ nền, một chức năng thiết yếu cho phép các doanh nghiệp chuyển đổi quy mô hoạt động, xử lý dữ liệu và tạo nội dung của họ. Các triển khai phi đàm thoại này thường có dạng quy trình làm việc đại lý được hỗ trợ bởi các mô hình ngôn ngữ lớn (LLM), thực hiện các mục tiêu kinh doanh cụ thể trên các ngành mà không cần tương tác trực tiếp với người dùng.
So với các ứng dụng đàm thoại, vốn hưởng lợi từ phản hồi và giám sát của người dùng theo thời gian thực, các ứng dụng phi đàm thoại có khả năng chịu độ trễ cao hơn, khả năng xử lý hàng loạt và các lợi thế riêng biệt như bộ nhớ đệm, nhưng bản chất tự trị của chúng đòi hỏi các biện pháp bảo mật mạnh mẽ hơn và đảm bảo chất lượng tỉ mỉ.
Bài viết này khám phá bốn trường hợp sử dụng AI tạo sinh khác nhau của Amazon:
- Tạo thông tin sản phẩm trên Amazon và cải thiện chất lượng dữ liệu danh mục – cho thấy LLM có thể giúp các đối tác bán hàng và Amazon tạo thông tin sản phẩm chất lượng cao hơn ở quy mô lớn như thế nào
- Xử lý đơn thuốc của Amazon Pharmacy – cho thấy việc triển khai trong một môi trường được quản lý chặt chẽ và phân tách nhiệm vụ cho quy trình làm việc của đại lý
- Điểm nổi bật trong đánh giá – minh họa khả năng xử lý hàng loạt quy mô lớn, tích hợp máy học (ML) truyền thống, sử dụng LLM nhỏ và các giải pháp hiệu quả về chi phí
- Tạo hình ảnh và video quảng cáo sáng tạo của Amazon Ads – nêu bật AI tạo sinh đa phương thức và các thực hành AI có trách nhiệm trong công việc sáng tạo
Mỗi nghiên cứu điển hình tiết lộ các khía cạnh khác nhau của việc triển khai các ứng dụng AI tạo sinh phi đàm thoại, từ kiến trúc kỹ thuật đến các cân nhắc về hoạt động. Thông qua các ví dụ này, bạn sẽ hiểu được cách bộ dịch vụ AWS đầy đủ, bao gồm Amazon Bedrock và Amazon SageMaker, đóng vai trò là chìa khóa cho thành công. Cuối cùng, chúng tôi liệt kê các bài học quan trọng được chia sẻ chung trong các trường hợp sử dụng khác nhau.
Tạo Thông Tin Sản Phẩm Chất Lượng Cao Trên Amazon
Tạo thông tin sản phẩm chất lượng cao với đầy đủ chi tiết giúp khách hàng đưa ra quyết định mua hàng sáng suốt. Theo truyền thống, các đối tác bán hàng nhập thủ công nhiều thuộc tính cho từng sản phẩm. Giải pháp AI tạo sinh hoàn toàn mới được ra mắt vào năm 2024 đã thay đổi quy trình này bằng cách cải thiện trải nghiệm của khách hàng một cách chủ động bằng cách lấy thông tin sản phẩm từ trang web của thương hiệu và các nguồn khác.
AI tạo sinh đơn giản hóa trải nghiệm của các đối tác bán hàng bằng cách hỗ trợ nhập thông tin ở nhiều định dạng khác nhau (ví dụ: URL, hình ảnh sản phẩm hoặc bảng tính) và tự động chuyển đổi thông tin đó thành cấu trúc và định dạng mong muốn. Hơn 900.000 đối tác bán hàng đã sử dụng nó và gần 80% bản nháp thông tin sản phẩm được tạo được chấp nhận, chỉ cần chỉnh sửa tối thiểu. Nội dung do AI tạo ra cung cấp thông tin chi tiết toàn diện về sản phẩm, điều này giúp cải thiện độ rõ ràng và chính xác, do đó giúp khám phá sản phẩm trong tìm kiếm của khách hàng.
Đối với thông tin sản phẩm mới, quy trình làm việc bắt đầu khi đối tác bán hàng cung cấp thông tin ban đầu. Sau đó, hệ thống sử dụng nhiều nguồn thông tin để tạo thông tin sản phẩm toàn diện, bao gồm tiêu đề, mô tả và thuộc tính chi tiết. Thông tin sản phẩm được tạo được chia sẻ với đối tác bán hàng để phê duyệt hoặc chỉnh sửa.
Đối với thông tin sản phẩm hiện có, hệ thống xác định các sản phẩm có thể được làm phong phú thêm bằng dữ liệu bổ sung.
Tích Hợp Dữ Liệu Và Xử Lý Cho Đầu Ra Lớn
Nhóm Amazon đã xây dựng trình kết nối nguồn bên trong và bên ngoài mạnh mẽ cho API thân thiện với LLM, được xây dựng bằng Amazon Bedrock và các dịch vụ AWS khác, cho phép tích hợp liền mạch vào các hệ thống phụ trợ của Amazon.com.
Một thách thức lớn là tổng hợp nhiều loại dữ liệu khác nhau thành thông tin sản phẩm mạch lạc trên hơn 50 thuộc tính (bao gồm văn bản và số). LLM cần các cơ chế kiểm soát và hướng dẫn cụ thể để giải thích chính xác các khái niệm thương mại điện tử, vì chúng có thể không hoạt động tốt nhất với dữ liệu phức tạp, đa dạng như vậy. Ví dụ: LLM có thể nhầm lẫn "dung tích" trong giá đỡ dao là kích thước thay vì số lượng khe hoặc nhầm lẫn "Fit Wear" là mô tả kiểu dáng thay vì tên thương hiệu. Kỹ thuật nhắc nhở và tinh chỉnh được sử dụng rộng rãi để giải quyết những trường hợp này.
Sử Dụng LLM Để Tạo Và Xác Thực
Thông tin sản phẩm được tạo phải đầy đủ và chính xác. Để giúp đạt được mục tiêu này, giải pháp triển khai quy trình làm việc nhiều bước, sử dụng LLM để tạo và xác thực thuộc tính. Phương pháp LLM kép này giúp ngăn ngừa ảo giác, điều này rất quan trọng khi xử lý các mối lo ngại về an toàn hoặc thông số kỹ thuật. Nhóm đã phát triển các kỹ thuật tự suy ngẫm tiên tiến để đảm bảo rằng quá trình tạo và xác thực bổ sung hiệu quả cho nhau.
Đảm Bảo Chất Lượng Đa Lớp Với Phản Hồi Của Con Người
Phản hồi của con người là cốt lõi của việc đảm bảo chất lượng giải pháp. Quá trình này bao gồm các chuyên gia của Amazon.com thực hiện đánh giá ban đầu, cũng như các đối tác bán hàng cung cấp thông tin đầu vào để chấp nhận hoặc chỉnh sửa. Điều này cung cấp đầu ra chất lượng cao và khả năng liên tục cải tiến các mô hình AI.
Quy trình đảm bảo chất lượng bao gồm kết hợp các phương pháp kiểm tra tự động bằng cách sử dụng ML, thuật toán hoặc đánh giá dựa trên LLM. Thông tin sản phẩm không thành công được tạo lại và thông tin sản phẩm thành công được kiểm tra thêm. Sử dụng [mô hình suy luận nhân quả], chúng tôi xác định các đặc điểm cơ bản ảnh hưởng đến hiệu suất của thông tin sản phẩm cũng như các cơ hội làm phong phú. Cuối cùng, thông tin sản phẩm vượt qua kiểm tra chất lượng và được đối tác bán hàng chấp nhận sẽ được xuất bản, đảm bảo rằng khách hàng nhận được thông tin sản phẩm chính xác và toàn diện.
Tối Ưu Hóa Hệ Thống Cấp Ứng Dụng Để Đảm Bảo Độ Chính Xác Và Chi Phí
Với tiêu chuẩn cao về độ chính xác và đầy đủ, nhóm nghiên cứu đã áp dụng một phương pháp thử nghiệm toàn diện và được trang bị một hệ thống tối ưu hóa tự động. Hệ thống này khám phá các kết hợp khác nhau của LLM, lời nhắc, kịch bản, quy trình làm việc và công cụ AI để cải thiện các chỉ số kinh doanh cao hơn, bao gồm cả chi phí. Thông qua đánh giá liên tục và kiểm tra tự động, trình tạo thông tin sản phẩm có thể cân bằng hiệu quả hiệu suất, chi phí và hiệu quả, đồng thời thích ứng với những phát triển AI mới. Phương pháp này có nghĩa là khách hàng có thể hưởng lợi từ thông tin sản phẩm chất lượng cao và các đối tác bán hàng có thể truy cập các công cụ tiên tiến để tạo thông tin sản phẩm hiệu quả.
Xử Lý Đơn Thuốc Dựa Trên AI Tạo Sinh Tại Amazon Pharmacy
Trong ví dụ về thông tin sản phẩm của người bán được thảo luận trước đó, dựa trên quy trình làm việc hỗn hợp giữa người và máy, Amazon Pharmacy cho thấy cách các nguyên tắc này có thể được áp dụng cho một ngành được quy định bởi [Đạo luật về trách nhiệm giải trình và khả năng chuyển đổi bảo hiểm y tế] (HIPAA). Trong bài viết [Tìm hiểu cách Amazon Pharmacy sử dụng Amazon SageMaker để tạo chatbot dựa trên LLM], chúng tôi đã chia sẻ một trợ lý đàm thoại dành cho các chuyên gia chăm sóc bệnh nhân, hiện chúng tôi tập trung vào việc xử lý đơn thuốc tự động.
Tại Amazon Pharmacy, chúng tôi đã phát triển một hệ thống AI dựa trên Amazon Bedrock và SageMaker để giúp các kỹ thuật viên dược sĩ xử lý hướng dẫn sử dụng thuốc chính xác và hiệu quả hơn.Giải pháp này tích hợp các chuyên gia là con người với LLM vào vai trò tạo và xác thực để cải thiện độ chính xác của hướng dẫn sử dụng thuốc cho bệnh nhân.
Thiết Kế Quy Trình Làm Việc Được Ủy Quyền Cho Độ Chính Xác Trong Chăm Sóc Sức Khỏe
Hệ thống xử lý đơn thuốc kết hợp chuyên môn của con người (người nhập dữ liệu và dược sĩ) với hỗ trợ AI để đưa ra các đề xuất và phản hồi về hướng dẫn. Quy trình làm việc bắt đầu với bộ tiền xử lý cơ sở kiến thức của nhà thuốc, bộ tiền xử lý này chuẩn hóa văn bản đơn thuốc thô từ [Amazon DynamoDB], sau đó sử dụng một mô hình ngôn ngữ nhỏ (SLM) được tinh chỉnh trên SageMaker để xác định các thành phần chính (liều lượng, tần suất).
Hệ thống tích hợp liền mạch các chuyên gia như người nhập dữ liệu và dược sĩ, trong đó AI tạo sinh bổ sung cho quy trình làm việc tổng thể, giúp cải thiện sự nhanh nhẹn và độ chính xác, nhờ đó phục vụ bệnh nhân của chúng tôi tốt hơn. Sau đó, hệ thống lắp ráp hướng dẫn có các biện pháp bảo mật tạo ra các hướng dẫn cho người nhập dữ liệu để tạo các hướng dẫn họ nhập thông qua một mô-đun đề xuất. Một mô-đun gắn cờ đánh dấu hoặc sửa các lỗi và thực thi các biện pháp bảo mật bổ sung làm phản hồi được cung cấp cho người nhập dữ liệu. Các kỹ thuật viên hoàn thiện các hướng dẫn được nhập một cách an toàn, có độ chính xác cao để dược sĩ cung cấp phản hồi hoặc các dịch vụ hạ nguồn thực hiện các hướng dẫn.
Điểm nổi bật của giải pháp này là việc sử dụng chức năng phân tách nhiệm vụ, chức năng này cho phép các kỹ sư và nhà khoa học chia toàn bộ quy trình thành nhiều bước, bao gồm các mô-đun riêng lẻ bao gồm các bước phụ. Nhóm nghiên cứu đã sử dụng rộng rãi các SLM được tinh chỉnh. Ngoài ra, quy trình này còn sử dụng các chương trình ML truyền thống, chẳng hạn như [nhận dạng thực thể có tên (NER)] hoặc sử dụng [mô hình hồi quy] để đưa ra ước tính về độ tin cậy cuối cùng. Việc sử dụng SLM và ML truyền thống trong quy trình được kiểm soát, xác định rõ ràng này có thể cải thiện đáng kể tốc độ xử lý đồng thời duy trì các tiêu chuẩn an toàn nghiêm ngặt do các biện pháp bảo mật thích hợp được đưa vào các bước cụ thể.
Hệ thống bao gồm nhiều bước phụ được xác định rõ ràng, mỗi bước con hoạt động như một thành phần chuyên dụng, hoạt động theo cách bán tự trị nhưng hợp tác trong quy trình làm việc để đạt được mục tiêu tổng thể. Phương pháp phân tách này có các xác thực cụ thể ở mọi giai đoạn, chứng tỏ hiệu quả hơn so với giải pháp đầu cuối, đồng thời có thể sử dụng các SLM được tinh chỉnh. Nhóm nghiên cứu đã sử dụng [AWS Fargate] để điều phối quy trình làm việc vì nó hiện được tích hợp vào các hệ thống phụ trợ hiện có.
Trong quá trình phát triển sản phẩm của nhóm, họ đã chuyển sang Amazon Bedrock, một sản phẩm cung cấp LLM hiệu suất cao với các tính năng dễ sử dụng được thiết kế riêng cho các ứng dụng AI tạo sinh. SageMaker hỗ trợ lựa chọn LLM hơn nữa, tùy chỉnh sâu hơn và các phương pháp ML truyền thống. Để tìm hiểu thêm về công nghệ này, hãy xem [Cách phân tách nhiệm vụ và LLM nhỏ hơn có thể giúp AI trở nên kinh tế hơn] và đọc [Nghiên cứu điển hình về hoạt động kinh doanh của Amazon Pharmacy].
Xây Dựng Một Ứng Dụng Đáng Tin Cậy Với Các Biện Pháp Bảo Mật Và HITL
Để tuân thủ các tiêu chuẩn HIPAA và cung cấp quyền riêng tư cho bệnh nhân, chúng tôi đã triển khai các biện pháp thực hành quản trị dữ liệu nghiêm ngặt, đồng thời áp dụng một phương pháp hỗn hợp kết hợp LLM được tinh chỉnh bằng API Amazon Bedrock và [tạo tăng cường tìm nạp] (RAG) bằng [Dịch vụ Amazon OpenSearch]. Sự kết hợp này cho phép truy xuất kiến thức hiệu quả đồng thời duy trì độ chính xác cao cho các nhiệm vụ con cụ thể.
Quản lý ảo giác LLM (điều này rất quan trọng trong lĩnh vực chăm sóc sức khỏe) đòi hỏi nhiều hơn là chỉ tinh chỉnh trên một tập dữ liệu lớn. Giải pháp của chúng tôi đã triển khai các biện pháp bảo mật dành riêng cho miền được xây dựng dựa trên [Amazon Bedrock Guardrails] và được bổ sung bằng giám sát vòng lặp người trong quy trình (HITL) để cải thiện độ tin cậy của hệ thống.
Nhóm Amazon Pharmacy tiếp tục cải tiến hệ thống này thông qua phản hồi theo thời gian thực từ các dược sĩ và chức năng định dạng đơn thuốc mở rộng. Phương pháp cân bằng giữa đổi mới, chuyên môn về miền, các dịch vụ AI tiên tiến và giám sát của con người này không chỉ cải thiện hiệu quả hoạt động mà còn có nghĩa là hệ thống AI có thể tăng cường một cách chính xác khả năng của các chuyên gia chăm sóc sức khỏe, do đó cung cấp dịch vụ chăm sóc bệnh nhân tối ưu.
Điểm Nổi Bật Trong Đánh Giá Của Khách Hàng Dựa Trên AI Tạo Sinh
Ví dụ trước của chúng tôi cho thấy cách Amazon Pharamacy tích hợp LLM vào quy trình làm việc theo thời gian thực để xử lý đơn thuốc, trong khi trường hợp sử dụng này cho thấy cách các công nghệ tương tự (SLM, ML truyền thống và thiết kế quy trình làm việc chu đáo) có thể được áp dụng cho [suy luận hàng loạt ngoại tuyến] quy mô lớn.
Amazon đã tung ra [Điểm nổi bật trong đánh giá của khách hàng do AI tạo ra] để xử lý hơn 200 triệu bài đánh giá và xếp hạng sản phẩm hàng năm. Chức năng này chắt lọc các ý kiến chung của khách hàng thành các đoạn văn ngắn gọn, nêu bật các phản hồi tích cực, trung tính và tiêu cực về sản phẩm và các tính năng của nó. Người mua sắm có thể nhanh chóng nắm bắt được sự đồng thuận đồng thời duy trì tính minh bạch bằng cách cung cấp quyền truy cập vào các bài đánh giá có liên quan của khách hàng và giữ lại các bài đánh giá gốc.
Hệ thống này tăng cường khả năng đưa ra quyết định mua hàng thông qua một giao diện mà khách hàng có thể khám phá các điểm nổi bật trong bài đánh giá bằng cách chọn các tính năng cụ thể (ví dụ: chất lượng hình ảnh, chức năng điều khiển từ xa hoặc tính dễ lắp đặt của Fire TV). Các tính năng này được biểu thị bằng dấu kiểm màu xanh lá cây cho thấy tình cảm tích cực, dấu trừ màu cam cho thấy tình cảm tiêu cực và màu xám cho thấy sự trung tính—có nghĩa là người mua sắm có thể nhanh chóng xác định điểm mạnh và điểm yếu của sản phẩm dựa trên các ý kiến đánh giá mua hàng đã được xác minh.
Sử Dụng LLM Một Cách Tiết Kiệm Chi Phí Cho Các Trường Hợp Sử Dụng Ngoại Tuyến
Nhóm nghiên cứu đã phát triển một kiến trúc kết hợp hiệu quả về chi phí, kết hợp các phương pháp ML truyền thống với các SLM chuyên dụng. Phương pháp này phân bổ phân tích tình cảm và trích xuất từ khóa cho ML truyền thống đồng thời sử dụng các SLM được tối ưu hóa cho các tác vụ tạo văn bản phức tạp, do đó cải thiện độ chính xác và hiệu quả xử lý.
Tính năng này sử dụng [Chuyển đổi hàng loạt SageMaker] để xử lý không đồng bộ, có thể giảm đáng kể chi phí so với các điểm cuối thời gian thực. Để cung cấp trải nghiệm gần như không có độ trễ, giải pháp này [bộ nhớ đệm] các thông tin chi tiết được trích xuất và các đánh giá hiện có, điều này giúp giảm thời gian chờ đợi và cho phép nhiều khách hàng truy cập đồng thời mà không cần tính toán thêm. Hệ thống xử lý dần các bài đánh giá mới, cập nhật thông tin chi tiết mà không cần xử lý lại toàn bộ bộ dữ liệu. Để có hiệu suất và hiệu quả chi phí tối ưu, tính năng này sử dụng [Amazon Elastic Compute Cloud] (Amazon EC2) [phiên bản Inf2] cho các tác vụ chuyển đổi hàng loạt, [cung cấp hiệu suất giá cao hơn tới 40% so với các lựa chọn thay thế].
Bằng cách tuân theo phương pháp toàn diện này, nhóm đã quản lý hiệu quả chi phí trong khi xử lý một lượng lớn các bài đánh giá và sản phẩm, giúp giải pháp này vừa hiệu quả vừa có thể mở rộng.
Tạo Hình Ảnh Và Video Sáng Tạo Do AI Điều Khiển Cho Amazon Ads
Trong các ví dụ trước, chúng ta chủ yếu khám phá các ứng dụng AI tạo sinh tập trung vào văn bản, giờ đây chúng ta sẽ chuyển sang AI tạo sinh đa phương thức với [Tạo nội dung sáng tạo quảng cáo được tài trợ trên Amazon Ads]. Giải pháp này có các chức năng tạo [hình ảnh] và [video] và chúng tôi sẽ chia sẻ thông tin chi tiết về các chức năng này trong phần này. Nhìn chung, cốt lõi của giải pháp sử dụng [mô hình tạo nội dung sáng tạo Amazon Nova].
Dựa trên nhu cầu của khách hàng, một cuộc khảo sát do Amazon thực hiệnvào tháng 3 năm 2023 cho thấy gần 75% nhà quảng cáo liệt kê việc tạo nội dung sáng tạo là thách thức chính của họ khi cố gắng đạt được thành công trong các chiến dịch quảng cáo. Nhiều nhà quảng cáo (đặc biệt là những người không có khả năng hoặc hỗ trợ đại lý nội bộ) phải đối mặt với những trở ngại đáng kể do chuyên môn và chi phí sản xuất các hình ảnh chất lượng cao. Giải pháp Amazon Ads dân chủ hóa việc tạo nội dung trực quan, giúp các nhà quảng cáo ở mọi quy mô có thể truy cập và sử dụng hiệu quả. Tác động rất lớn: Các nhà quảng cáo sử dụng hình ảnh do AI tạo ra trong các chiến dịch [Thương hiệu được tài trợ] có [tỷ lệ nhấp (CTR)] gần 8% và các chiến dịch đã gửi cao hơn 88% so với những người không phải là người dùng.
Năm ngoái, blog AWS Machine Learning đã xuất bản một bài viết [chi tiết về giải pháp tạo hình ảnh]. Kể từ đó, Amazon đã áp dụng [Amazon Nova Canvas] làm nền tảng để tạo hình ảnh sáng tạo. Sử dụng lời nhắc bằng văn bản hoặc hình ảnh, kết hợp với các chức năng chỉnh sửa dựa trên văn bản và các điều khiển điều chỉnh bố cục cũng như sơ đồ màu, để tạo ra các hình ảnh cấp chuyên nghiệp.
Vào tháng 9 năm 2024, nhóm Amazon Ads đã thêm chức năng tạo [quảng cáo video ngắn] từ hình ảnh sản phẩm. Tính năng này sử dụng [các mô hình nền tảng có sẵn trên Amazon Bedrock], cung cấp cho khách hàng quyền kiểm soát bằng cách cung cấp khả năng kiểm soát phong cách trực quan, nhịp độ, chuyển động của máy ảnh, xoay và thu phóng bằng ngôn ngữ tự nhiên. Nó sử dụng quy trình làm việc đại lý để mô tả trước bảng phân cảnh video, sau đó tạo nội dung câu chuyện.
Như đã thảo luận trong bài viết gốc, [AI có trách nhiệm] là cốt lõi của giải pháp và mô hình sáng tạo Amazon Nova đi kèm với các biện pháp kiểm soát tích hợp để hỗ trợ sử dụng AI an toàn và có trách nhiệm, bao gồm hình mờ và kiểm duyệt nội dung.
Giải pháp này sử dụng các chức năng [AWS Step Functions] và [AWS Lambda] để điều phối điều phối không máy chủ của quy trình tạo hình ảnh và video. Nội dung được tạo được lưu trữ trong [Amazon Simple Storage Service] (Amazon S3), siêu dữ liệu được lưu trữ trong DynamoDB và [Amazon API Gateway] cung cấp cho khách hàng quyền truy cập vào các chức năng tạo. Ngoài việc duy trì tích hợp [Amazon Rekognition] và [Amazon Comprehend] trong các bước khác nhau để kiểm tra an toàn bổ sung, giải pháp này hiện cũng sử dụng Amazon Bedrock Guardrails.
Việc tạo quảng cáo sáng tạo chất lượng cao trên quy mô lớn đặt ra những thách thức phức tạp. Các mô hình AI tạo sinh cần tạo ra hình ảnh hấp dẫn và phù hợp với thương hiệu trong nhiều danh mục sản phẩm và môi trường quảng cáo khác nhau, đồng thời giúp tất cả các nhà quảng cáo ở mọi cấp độ kỹ năng dễ dàng truy cập. Đảm bảo và cải tiến chất lượng là nền tảng của các chức năng tạo hình ảnh và video. Hệ thống không ngừng được nâng cao thông qua quy trình HITL mở rộng được triển khai bởi [Amazon SageMaker Ground Truth]. Việc triển khai này cung cấp một công cụ mạnh mẽ có thể chuyển đổi quy trình sáng tạo của nhà quảng cáo, từ đó giúp việc tạo nội dung trực quan chất lượng cao trong các danh mục và môi trường sản phẩm dễ dàng hơn.
Đây chỉ là sự khởi đầu của việc Amazon Ads sử dụng AI tạo sinh để giúp các nhà quảng cáo cần tạo nội dung phù hợp với mục tiêu quảng cáo của họ. Giải pháp này cho thấy cách giảm rào cản sáng tạo có thể cải thiện trực tiếp các chiến dịch quảng cáo đồng thời duy trì các tiêu chuẩn cao về sử dụng AI có trách nhiệm.
Các Bài Học Và Thảo Luận Chính Về Kỹ Thuật
Các ứng dụng phi đàm thoại được hưởng lợi từ khả năng chịu độ trễ cao hơn, cho phép xử lý hàng loạt và bộ nhớ đệm, nhưng do tính tự chủ của chúng, chúng cần cơ chế xác thực mạnh mẽ và các biện pháp bảo mật mạnh mẽ hơn. Những thông tin chi tiết này áp dụng cho cả việc triển khai AI phi đàm thoại và AI đàm thoại:
- Phân tích nhiệm vụ và quy trình làm việc đại lý – Việc chia các vấn đề phức tạp thành các thành phần nhỏ hơn đã được chứng minh là có giá trị trong nhiều triển khai khác nhau. Việc phân tách chu đáo này do các chuyên gia về miền thực hiện cho phép tạo ra các mô hình chuyên dụng cho các nhiệm vụ con cụ thể, như được thể hiện trong quá trình xử lý đơn thuốc của Amazon Pharmacy, trong đó các SLM được tinh chỉnh có thể xử lý các nhiệm vụ riêng biệt, chẳng hạn như nhận dạng liều lượng. Chiến lược này cho phép tạo ra các đại lý chuyên dụng với các bước xác thực rõ ràng, do đó cải thiện độ tin cậy và đơn giản hóa việc bảo trì. Trường hợp sử dụng thông tin sản phẩm của người bán Amazon chứng minh điều này thông qua quy trình làm việc nhiều bước với các quy trình tạo và xác thực riêng biệt. Ngoài ra, trường hợp sử dụng các điểm nổi bật trong bài đánh giá cho thấy việc sử dụng LLM hiệu quả và được kiểm soát về chi phí, nghĩa là bằng cách sử dụng ML truyền thống cho tiền xử lý cũng như thực hiện các phần có thể liên kết với các tác vụ LLM.
- Kiến trúc kết hợp và lựa chọn mô hình – So với phương pháp LLM thuần túy, việc kết hợp ML truyền thống với LLM có thể cung cấp khả năng kiểm soát và hiệu quả chi phí tốt hơn. ML truyền thống xuất sắc trong việc xử lý các nhiệm vụ được xác định rõ ràng, như được hiển thị bởi hệ thống các điểm nổi bật trong bài đánh giá được sử dụng cho phân tích tình cảm và trích xuất thông tin. Nhóm Amazon đã triển khai một cách chiến lược các mô hình ngôn ngữ lớn và nhỏ dựa trên nhu cầu, kết hợp RAG với tinh chỉnh cho các ứng dụng dành riêng cho miền hiệu quả, chẳng hạn như việc triển khai Amazon Pharmacy.
- Chiến lược tối ưu hóa chi phí – Nhóm Amazon đã đạt được hiệu quả thông qua xử lý hàng loạt, cơ chế bộ nhớ đệm cho các hoạt động dung lượng lớn, các loại phiên bản chuyên dụng như [AWS Inferentia] và [AWS Trainium] và lựa chọn mô hình được tối ưu hóa. Các điểm nổi bật trong bài đánh giá cho thấy cách xử lý tăng dần có thể giảm nhu cầu tính toán, trong khi Amazon Ads sử dụng [mô hình nền tảng] (FM) Amazon Nova để tạo nội dung sáng tạo một cách hiệu quả về chi phí.
- Cơ chế kiểm soát và đảm bảo chất lượng – Kiểm soát chất lượng dựa vào các biện pháp bảo mật dành riêng cho miền thông qua Amazon Bedrock Guardrails và xác thực nhiều lớp kết hợp kiểm tra tự động với đánh giá thủ công. Phương pháp LLM kép để tạo và xác thực giúp ngăn ngừa ảo giác trong thông tin sản phẩm của người bán Amazon, trong khi các kỹ thuật tự suy ngẫm cải thiện độ chính xác. FM sáng tạo Amazon Nova cung cấp các biện pháp kiểm soát AI có trách nhiệm vốn có và được bổ sung bằng thử nghiệm A/B và đo lường hiệu suất liên tục.
- Triển khai HITL – Phương pháp HITL trải rộng trên nhiều lớp, từ đánh giá của chuyên gia từ dược sĩ đến phản hồi của người dùng cuối từ đối tác bán hàng. Nhóm Amazon đã thiết lập các quy trình làm việc cải tiến có cấu trúc, giúp cân bằng tự động hóa và giám sát thủ công dựa trên các yêu cầu về miền và hồ sơ rủi ro cụ thể.
- AI có trách nhiệm và tuân thủ – Các biện pháp thực hành AI có trách nhiệm bao gồm các biện pháp bảo mật tiếp nhận nội dung cho các môi trường được quản lý và tuân thủ các quy định như HIPAA. Nhóm Amazon đã tích hợp kiểm duyệt nội dung cho các ứng dụng hướng đến người dùng, duy trì tính minh bạch của các điểm nổi bật trong bài đánh giá bằng cách cung cấp quyền truy cập vào thông tin nguồn và triển khai quản trị dữ liệu có giám sát để cải thiện chất lượng và tuân thủ.
Các mẫu này cho phép các giải pháp AI tạo sinh có thể mở rộng, đáng tin cậy và hiệu quả về chi phí đồng thời duy trì các tiêu chuẩn chất lượng và trách nhiệm. Các triển khai này cho thấy rằng các giải pháp hiệu quả không chỉ yêu cầu các mô hình tiên tiến mà còn cần chú ý cẩn thận đến kiến trúc, hoạt động và quản trị, đồng thời được hỗ trợ bởi các dịch vụ AWS và các biện pháp thực hành đã được thiết lập.
Các Bước Tiếp Theo
Các ví dụ của Amazon được chia sẻ trong bài viết này minh họa cách AI tạo sinh có thể tạo ra giá trị vượt xa các trợ lý đàm thoại truyền thống. Chúng tôi mời bạn làm theo các ví dụ này hoặc tạo giải pháp của riêng bạn để tìm hiểu cách AI tạo sinh có thể định hình lại hoạt động kinh doanh của bạn hoặc thậm chí cả ngành của bạn. Bạn có thể truy cập trang [Trường hợp sử dụng AI tạo sinh của AWS] để bắt đầu quá trình lên ý tưởng.
Các ví dụ này cho thấy rằng việc triển khai AI tạo sinh hiệu quả thường được hưởng lợi từ việc kết hợp các loại mô hình và quy trình làm việc khác nhau. Để tìm hiểu những FM nào được các dịch vụ AWS hỗ trợ, hãy xem [Các mô hình nền tảng được hỗ trợ trong Amazon Bedrock] và [Mô hình nền tảng Amazon SageMaker JumpStart]. Chúng tôi cũng khuyên bạn nên khám phá [Amazon Bedrock Flows], có thể đơn giản hóa đường dẫn xây dựng luồng công việc. Ngoài ra, chúng tôi nhắc bạn rằng bộ tăng tốc Trainium và Inferentia cung cấp các khoản tiết kiệm chi phí quan trọng trong các ứng dụng này.
Như được hiển thị trong các ví dụ mà chúng tôi đã minh họa, quy trình làm việc của đại lý đã được chứng minh là đặc biệt có giá trị. Chúng tôi khuyên bạn nên duyệt qua [Amazon Bedrock Agents] để nhanh chóng xây dựng quy trình làm việc của đại lý.
Triển khai thành công AI tạo sinh không chỉ là lựa chọn mô hình—nó thể hiện một quy trình phát triển phần mềm toàn diện từ thử nghiệm đến giám sát ứng dụng. Để bắt đầu xây dựng nền tảng của bạn trên các dịch vụ thiết yếu này, chúng tôi mời bạn duyệt qua [Amazon QuickStart].
Để tìm hiểu thêm về cách Amazon sử dụng AI, hãy xem [AI] trên Amazon News.