Số lượng các mô hình nền tảng tiếp tục tăng mạnh, với hơn 120 mô hình mới được giới thiệu kể từ tháng 9 năm 2023. Các mô hình này khác nhau về quy mô, khả năng và phương thức, làm nổi bật sự phát triển nhanh chóng của lĩnh vực AI. Theo báo cáo Artificial Intelligence Index Report 2024 của đại học Standford, vào năm 2023, tổng cộng 149 mô hình nền tảng đã được công bố, nhiều hơn gấp đôi số lượng phát hành vào năm 2022.

Cùng với sự phát triển mạnh mẽ của các mô hình nền tảng, các mô hình nền tảng nguồn mở ngày càng đóng vai trò quan trọng trong việc thúc đẩy sự đổi mới và cạnh tranh. Trong số các mô hình mới công bố năm 2023, 65,7% là mã nguồn mở. Tỷ lệ này tăng dần qua các năm với 44,4% năm 2022 và 33,3% năm 2021. Các mô hình mở nổi bật theo bảng xếp hạng của Hugging Face Open LLM bao gồm MSAIR Multiverse 70B, Alpaca Dragon 72B, Mixtral 8x22B, Llama 3, Mixtral 8x7b của Mistral, Gemma của Google, Aya của Cohere, OLMo của AI2, Phi-2 của Microsoft. Trong quý này, Meta đã công bố mô hình ngôn ngữ mới nhất của mình, Llama 3.1 405B. Đây là mô hình lớn nhất trong số các mô hình Llama đã được công bố với 15 nghìn tỷ token và 16.000 GPU . Ngoài phiên bản 405B, Llama cũng bao gồm các phiên bản 8B và 70B .

 

Nhu cầu phát triển trí tuệ nhân tạo (AI) ngày càng tăng đã khiến chip AI trở thành nguồn tài nguyên khan hiếm. Một số tổ chức, doanh nghiệp lớn đã hướng đến việc phát triển các mô hình nền tảng nhỏ hơn nhưng có khả năng xử lý dữ liệu tốt hơn nhằm dân chủ hóa AI bằng cách giảm tài nguyên cần thiết để triển khai mô hình AI, đặc biệt là trên các thiết bị thông thường. Trong đó nổi bật có các mô hình như Gemma (7B) của Google, Phi-3 và Phi-3 Mini (3.8B) của Microsoft.

Những mô hình này nhỏ hơn, sử dụng ít tài nguyên hơn nhưng về hiệu quả được đánh giá là vượt trội hơn Llama 2 (70B) và Zephyr (7B) của Hugging Face. Gần đây các nhà nghiên cứu Meta AI đã công bố MobileLLM để tạo ra các mô hình ngôn ngữ hiệu quả trên điện thoại thông minh và các thiết bị hạn chế tài nguyên .

 

Các lo ngại về quyền riêng tư dữ liệu khi sử dụng các mô hình AI đã thúc đẩy sự phát triển phần cứng AI trên các thiết bị. Với các chip AI chuyên dụng cho máy tính cá nhân và thiết bị di động, các mô hình nền tảng có thể triển khai ngay trên các trên thiết bị (on-device deployment of FMs). Việc phát triển các chip AI chuyên dùng không chỉ giúp giải quyết các quan ngại về quyền riêng tư dữ liệu mà còn giúp giảm độ trễ trong quá trình xử lý, đặc biệt với các ứng dụng AI luôn yêu cầu tốc độ phản hồi trong thời gian rất ngắn. Những công bố nổi bật bao gồm bản phát hành mới nhất của Apple, Chip M4, có khả năng thực hiện 38 nghìn tỷ phép tính mỗi giây; phần cứng AI đầu tiên mới được công bố tại Microsoft Build 2024 tích hợp NPU, CPU và GPU cho phép chạy các ứng dụng AI ngay trên máy tính xách tay AI .

 

Theo khảo sát của McKinsey đa số nhân sự được khảo sát cho biết tổ chức của họ đang sử dụng AI trong nhiều lĩnh vực khác nhau. 65% người được khảo sát cho biết tổ chức của họ thường xuyên sử dụng AI trong ít nhất một lĩnh vực nghiệp vụ, tăng 30% so với năm trước. Hai lĩnh vực nghiệp vụ được sử dụng AI thường xuyên nhất là “tiếp thị và bán hàng” (marketing and sales) và “phát triển sản phẩm và dịch vụ” (product and service development), đây là các lĩnh vực nghiệp vụ mà các nghiên cứu trước đây đã xác định việc áp dụng AI có thể tạo ra nhiều giá trị nhất. Lĩnh vực “tiếp thị và bán hàng” có sự thay đổi lớn nhất từ năm 2023 với việc áp dụng AI tăng gấp đôi.

 

Khi công nghệ AI được tích hợp sâu vào các dịch vụ hàng ngày, các khung pháp lý đang được xây dựng để đảm bảo sự phát triển AI có trách nhiệm phù hợp với nhu cầu xã hội và các tiêu chuẩn đạo đức như Sắc lệnh hành pháp của Hoa Kỳ (The US Executive Order), Bộ quy tắc ứng xử AI tự nguyện của G7 (G7 Voluntary AI Code of Conduct), Sách trắng AI của Chính phủ Anh (UK Government AI Whitepaper) và Đạo luật AI của EU (EU AI Act).

Internet vạn vật (IoT) đề cập đến hàng tỷ thiết bị vật lý trên toàn cầu thu thập và chia sẻ dữ liệu qua internet. Công ty phân tích công nghệ Quốc tế IDC đưa ra dự đoán sẽ có hơn 41 tỷ thiết bị IoT sẽ được kết nối vào năm 2025. Số thiết bị khổng lồ này mang tới nguy cơ xảy ra các cuộc tấn công mạng không ngừng tăng lên về quy mô đến mức các công ty an ninh mạng khó có thể kiểm soát được. Mọi thứ từ đồng hồ theo dõi sức khỏe đến máy theo dõi trẻ em đều có nguy cơ bảo mật cao, khiến các nhà thiết kế và nhà sản xuất phải nỗ lực hết sức để tăng cường bảo mật

 

Các thiết bị IoT thường không có các biện pháp kiểm soát bảo mật tích hợp do những hạn chế về tài nguyên như khả năng tính toán nhỏ và thiết kế công suất thấp. Do đó, nhiều thiết bị không thể hỗ trợ các tính năng bảo mật như xác thực, mã hóa và kiểm soát truy cập. Những thách thức này đòi hỏi một sự thay đổi toàn diện trong cách thức bảo mật mạng, cần ưu tiên thiết kế và triển khai các biện pháp bảo mật mạnh ngay từ giai đoạn phát triển thiết bị IoT. Bên cạnh đó cần thiết phải có sự hợp tác chặt chẽ giữa các nhà sản xuất, nhà cung cấp dịch vụ và các cơ quan quản để thiết lập các tiêu chuẩn và quy định nghiêm ngặt hơn, đảm bảo an ninh cho mạng lưới thiết bị IoT và bảo vệ dữ liệu người dùng.

 

Mã độc tống tiền (Ransomware) là một loại phần mềm độc hại mã hóa thông tin của nạn nhân để đòi tiền chuộc hoặc các thứ có giá trị, thông thường là tiền mã hóa. Theo khảo sát của Sophos có 59% tổ chức bị tấn công bởi mã độc tống tiền vào năm 2023. Trong 6 tháng đầu năm 2024, số tiền chuộc trung bình được yêu cầu từ mỗi cuộc tấn công tăng gấp 5 lần so với năm 2023. 32% các cuộc tấn công ransomware bắt đầu từ một lỗ hổng ATTT chưa được vá.

 

Tình trạng này không chỉ gây ra tổn thất tài chính nghiêm trọng mà còn làm gián đoạn hoạt động của các tổ chức, thậm chí có thể đe dọa đến an ninh quốc gia. Các tổ chức cần nâng cao nhận thức về các biện pháp bảo mật, thường xuyên cập nhật và vá các lỗ hổng bảo mật, và đầu tư vào các giải pháp bảo mật tiên tiến để phòng ngừa các cuộc tấn công ransomware. Ngoài ra, việc đào tạo nhân viên về nhận diện và phản ứng trước các mối đe dọa an ninh mạng cũng là một yếu tố quan trọng trong chiến lược bảo vệ trước các cuộc tấn công ransomware. Sự hợp tác quốc tế cũng đóng vai trò then chốt trong việc chia sẻ thông tin và phát triển các biện pháp đối phó hiệu quả với mối đe dọa ngày càng tinh vi này. Các nguyên nhân hàng đầu dẫn tới các cuộc tấn công Ransomware là từ các lỗ hổng chưa được vá (tỉ lệ lên đến 49% với ngành Năng lượng) và do lộ lọt tài khoản (tỉ lệ 47% với các Cơ quan Chính phủ). Ngược lại, ngành Công nghệ thông tin và Viễn thông lại có sự phân bố khá đồng đều giữa các nguyên nhân lỗ hổng chưa được vá, lộ lọt tài khoản, email độc hại với tỉ lệ lần lượt là 28%, 25%, 22%. Tỉ lệ gần như tương tự cũng xuất hiện tại Ngành Sản xuất và chế tạo (27%, 25%, 29%). Sự phân bố đều giữa các nguyên nhân cho thấy sự đa dạng trong các mối đe dọa, điều này yêu cầu một chiến lược bảo mật toàn diện và phức tạp hơn đối với các ngành này.

 

Lừa đảo deepfake đã trở thành mối đe dọa ngày càng đáng kể, được thúc đẩy bởi những tiến bộ trong công nghệ AI và học máy. Loại lừa đảo này liên quan đến việc sử dụng công nghệ deepfake để tạo ra các video, hình ảnh hoặc bản ghi âm có độ chân thực được sử dụng trong các cuộc tấn công lừa đảo có mục tiêu, đặc biệt là trong các lĩnh vực như tiền điện tử, nơi nó được sử dụng để lừa người dùng chuyển tiền hoặc tiết lộ thông tin nhạy cảm.

Dự báo của VPNRanks dự đoán đến năm 2025, cứ 10 người thì sẽ có 8 người có khả năng sẽ gặp phải video deepfake trên môi trường Internet. Video deepfake chiếm đa số với hơn 90% số trường hợp được thống kê, hình ảnh AI deepfake theo sau ở mức 5-10%, trong khi âm thanh deepfake đang nổi lên và đang được ngày càng quan tâm.

 

Với biểu đồ tăng trưởng theo cấp số nhân của video deepfake qua các năm, VPNRanks ước tính hết năm 2024 số lượng các video Deepfake sẽ tăng thêm 50-60% so với năm 2023 với số lượng khoảng 143.730 đến 153.312 nội dung deepfake. Thế giới cần chuẩn bị cho sự gia tăng đáng kể các sự cố deepfake, có khả năng vượt quá 150.000 trường hợp trên toàn cầu. Trong quý năm 2024, dự kiến phát hiện 20.000 vụ phạm tội deepfake trên toàn cầu nhờ những tiến bộ trong mô hình phát hiện deepfake hiện tại. Con số này được nhận định dựa trên những tiến bộ trong các mô hình phát hiện, các biện pháp an ninh mạng được tăng cường và nhận thức được nâng cao.

 

AI và học máy đang ngày càng áp dụng phổ biến vào trong các lĩnh vực khác nhau. Để tạo ra các ứng dụng AI thực hiện nhiệm vụ thay thế con người, cần sử dụng một lượng lớn dữ liệu để huấn luyện các mô hình AI. Khi các dữ liệu được sử dụng huấn luyện sai lệch hoặc bị làm hỏng một cách có chủ đích có thể tạo ra các mô hình AI hoạt động không theo thiết kế ban đầu hoặc tạo ra các hình thức tấn công mới Iạm dụng AI. Sau đây là 4 hình thức tấn công chính:

Mặc dù AI và học máy đã đạt được nhiều tiến bộ đáng kể tuy nhiên các giải pháp bảo mật cho AI hiện còn đang hạn chế, giải quyết các thách thức này đòi hỏi một cách tiếp cận đa chiều, bao gồm phát triển các giải pháp bảo mật AI mạnh mẽ, cải thiện tính minh bạch và khả năng giải thích của mô hình, tăng cường bảo vệ quyền riêng tư dữ liệu, và xây dựng các khung pháp lý phù hợp với sự phát triển của công nghệ AI.

 

Software Engineering Intelligence (SEI) là giải pháp cung cấp thông tin, phân tích, đánh giá về thời gian, nguồn lực, hiệu quả hoạt động của quá trình phát triển và cung cấp phần mềm. Các giải pháp SEI thu thập thông tin từ các nền tảng phát triển phần mềm (Software Engineering Platform) nhằm phân tích và đưa ra các thông tin về hoạt động phát triển phần mềm (PTPM) từ đó có các giải pháp tối ưu chi phí, nguồn lực PTPM và đánh giá hiệu suất giữa các nhóm phát triển.

 

Theo đánh giá của Gartner, mặc dù năm 2024 mới có 5% tổ chức, doanh nghiệp sử dụng các nền tảng SEI để đo lường và đánh giá hiệu suất, tuy nhiên tỷ lệ này sẽ tăng lên 50% vào năm 2027. Cũng theo Gartner, 52% lãnh đạo của các tổ chức, doanh nghiệp cho biết việc sử dụng SEI giúp gia tăng hiệu quả sản xuất tại tổ chức của họ. OpenTable là một ví dụ điển hình sử dụng SEI, giải pháp SEI Platform của Code Climate đã giúp OpenTable tăng hiệu suất lên 40% và giảm thời gian thực hiện công việc 57%.

 

AI-Augmented Development là việc sử dụng công nghệ như AI tạo sinh (Generative AI) và học máy (Machine Learning) để hỗ trợ nhân sự phát triển phần mềm trong thiết kế, phát triển và kiểm thử ứng dụng. Công cụ AI-Augmented Development tích hợp với môi trường phát triển phần mềm để sản xuất mã nguồn ứng dụng, cho phép thực hiện design-to-code và tăng cường khả năng kiểm thử ứng dụng. AI-Augmented Development gia tăng hiệu suất phát triển phần mềm thông qua một số khía cạnh:

Theo đánh giá của Gartner, đến năm 2028, 75% tổ chức PTPM sẽ sử dụng công cụ hỗ trợ viết mã nguồn, tăng 10% so với đầu năm 2023. Một số ví dụ điển hình ứng dụng AI trong PTPM như Meta đã phát triển công cụ hỗ trợ viết mã nguồn phục vụ nội bộ CodeCompose. Hơn 16000 nhân sự phát triển của Meta đã sử dụng, kết quả 8% mã nguồn được sinh trực tiếp từ CodeCompose, hơn 91.5% phản hồi về việc sử dụng công cụ là tích cực; Ngân hàng ANZ đã chạy thử công cụ GitHub Copilot trong 6 tuần với 1000 kỹ sư, trung bình hiệu suất tăng 42% khi các kỹ sư sử dụng GitHub Copilot và chất lượng source code tăng 12%

 

 

 

Green Software Engineering (GSE) là việc xây dựng phần mềm xoay quanh 2 khái niệm carbon-efficient và carbon-aware. Carbon-efficient nghĩa là giảm thiểu phác thải carbon xuyên suốt quá trình phát triển phần mềm. Carbon-aware là tối ưu phần mềm sử dụng nguồn năng lượng tiêu thụ carbon thấp. GSE bao gồm việc lựa chọn chiến lược, kiến trúc, phát triển, vận hành, hạ tầng tiếp kiệm năng lượng. Theo đánh giá của Gartner, đến năm 2027, 30% các doanh nghiệp lớn trên toàn cầu sẽ coi GSE là một trong những yêu cầu phi chức năng của sản phẩm, so với khoảng 10% trong năm 2024.

 

Việc sử dụng năng lượng trong việc tính toán sẽ làm tăng lượng khí thải carbon của tổ chức, đặc biệt với các ứng dụng hỗ trợ AI vốn tiêu tốn rất nhiều năng lượng. Do đó, việc triển khai GSE sẽ giúp các tổ chức ưu tiên các mục tiêu phát triển bền vững của mình. Gần đây, USB đã hợp tác với Microsoft phát triển Carbon Aware API. Giải pháp này cung cấp khuyến nghị về việc lập lịch sao cho tải tính toán lớn (compute-intensive workloads) được thực hiện vào thời điểm nguồn năng lượng carbon thấp nhất, qua đó đã giảm được lượng tiêu thụ năng lượng xuống 30%. Goldman Sachs phát triển một interpreter tối ưu cho Slang qua đó đã cải thiện 25% hiệu suất năng lượng khi chạy model.

 

 

Platform Engineering là việc thiết kế, xây dựng và duy trì các nền tảng công nghệ cơ bản cung cấp bộ các công cụ, dịch vụ và hạ tầng cho đội ngũ phát triển phần mềm. Mục tiêu là tạo ra các nền tảng có thể tái sử dụng và mở rộng, giúp đơn giản hóa quá trình phát triển, triển khai và vận hành các ứng dụng. Điều này cho phép các đội ngũ phát triển tập trung hơn vào việc xây dựng tính năng thay vì phải xử lý và vận hành hạ tầng. Theo Gartner, đến năm 2026, 80% các tổ chức phát triển phần mềm lớn sẽ tổ chức đội ngũ vận hành nền tảng phát triển, so với 45% trong năm 2022.

 

Để triển khai Platform Engineering trong tổ chức, ngoài việc làm chủ các platform nền tảng (DevOps Toolchains), quy trình thì việc xây dựng nền tảng Internal Developer Platform (IDP)25 như là một Best Practices cho việc ứng dụng Platform Engineering trong thực tế. IDP cho phép tổ chức chuẩn hóa các stack công nghệ (template), các quy trình triển khai (workflow) và cung cấp khả năng Self-service cho các Developer, Operator. IDP thường bao gồm 2 phân hệ chính là Service Catalog (quản lý thông tin các đối tượng như dịch vụ, giám sát, hạ tầng…) và Platform Orchestrator cho phép thực thi các hành động lên các đối tượng được quản lý (như tạo luồng build CI/CD cho dịch vụ mới, tạo các tài nguyên khác DB, Version Control Code…) theo một cách được kiểm soát, phê duyệt.

 

Môi trường phát triển trên cloud cung cấp môi trường phát triển trên hạ tầng đám mây với nỗ lực tối thiểu được dành cho việc cấu hình và cài đặt môi trường. Việc này giúp tách biệt môi trường phát triển ra khỏi hạ tầng vật lý, giúp quá trình cung cấp sản phẩm được nhanh hơn. Môi trường phát triển đảm mây bao gồm các thành phần môi trường phát triển tích hợp truyền thống kết hợp với công cụ hỗ trợ AI và tích hợp DevSecOps.

 

Theo đánh giá của Gartner, tới năm 2027, 40% các tổ chức sẽ triển khai môi trường phát triển đám mây, so với gần 10% trong năm 2024. Một số ví dụ điển hình trong triển khai môi trường phát triển trên cloud như Palantir sử dụng Coder trên nền tảng Amazon’s Elastic Kubernetes Service giúp giảm thời gian build ứng dụng 78%, thời gian pull mã nguồn từ Git Repository 71% và cho phép Palantir triển khai ứng dụng đến người dùng sớm hơn; Synergy thử nghiệm môi trường phát triển đám mây thông qua GitHub Codespaces, giúp đơn giản hóa quy trình gia nhập đội dự án của nhân sự mới từ 15 bước xuống chỉ 1 bước.