วันที่สองของงาน Google Cloud Next ‘24 ในลาสเวกัสเต็มไปด้วยความตื่นเต้น โดยเน้นหนักไปที่ Gemini และ AI เอเจนต์ภายในระบบนิเวศของ Google Cloud โดยช่วงคีย์โน้ตสำหรับนักพัฒนา ซึ่งนำโดย Richard Seroter หัวหน้า Evangelist ของ Google Cloud และ Chloe Condon นักพัฒนาอาวุโส มุ่งเน้นไปที่การสาธิตความสามารถของ Gemini ใน Google Cloud โดยพวกเขาได้เน้นย้ำถึงศักยภาพของมันที่ไม่เพียงแต่ตอบสนองความต้องการของผู้ใช้ในปัจจุบันเท่านั้น แต่ยังขับเคลื่อนนวัตกรรมและความก้าวหน้าให้เหนือกว่ามาตรฐานปัจจุบันอีกด้วย

การนำเสนอซึ่งรวมถึงการสาธิตที่หลากหลาย ทำให้ Richard, Chloe และเพื่อนร่วมงานชาว Google รวมถึงพันธมิตรของพวกเขา ได้มีโอกาสสำรวจเทคโนโลยีและการบูรณาการ AI ที่นำเสนอโดย Google Cloud อย่างเจาะลึก เทคโนโลยีเหล่านี้ได้รับการออกแบบมาเพื่อช่วยเหลือในงานสำคัญที่ลูกค้าของ Google Cloud ต้องทำเป็นประจำทุกวัน ซึ่งตอกย้ำความมุ่งมั่นของ Google Cloud ในการเพิ่มประสิทธิภาพและนวัตกรรมผ่านโซลูชันที่ขับเคลื่อนด้วย AI แนวทางนี้เน้นย้ำถึงกลยุทธ์ของ Google Cloud ในการใช้ประโยชน์จาก AI เพื่อลดความซับซ้อนของกระบวนการ เพิ่มประสิทธิภาพ และช่วยให้ผู้ใช้บรรลุเป้าหมายได้มากขึ้นกับงานและโครงการบนระบบคลาวด์ของตน

สร้าง รัน และดำเนินการแอปพลิเคชันที่ยอดเยี่ยม มาเจาะลึกกันดีกว่า

สร้าง 

ประสบการณ์ generative AI ของ Google Cloud สำหรับนักพัฒนาเริ่มต้นด้วย Gemini Code Assist โดย Brad Calder รองประธานและผู้จัดการทั่วไปของ Google Cloud ได้แสดงให้ผู้ชมเห็นว่าการรองรับ Gemini 1.5 ใน Code Assist ช่วยให้มีหน้าต่างบริบทขนาด 1M โทเค็น ซึ่งใหญ่ที่สุดในอุตสาหกรรมได้อย่างไร

Jason Davenport นักพัฒนาผู้สนับสนุนของ Google Cloud ได้แสดงให้เห็นถึงประโยชน์ของ Gemini Cloud Assist ในการปรับปรุงการออกแบบ การดำเนินงาน การแก้ไขปัญหา และการเพิ่มประสิทธิภาพของแอปพลิเคชันผ่านความเข้าใจอย่างลึกซึ้งและการใช้บริบทเฉพาะจากสภาพแวดล้อมคลาวด์ของตนเอง ซึ่งรวมถึงการใช้ทรัพยากรที่หลากหลาย เช่น บันทึกข้อผิดพลาด (error logs) การกำหนดค่าโหลดบาลานเซอร์ และกฎไฟร์วอลล์ ซึ่งแสดงให้เห็นถึงพลังของ AI เชิงบริบทในการปรับปรุงงานการจัดการคลาวด์ให้มีประสิทธิภาพยิ่งขึ้น

นอกจากนี้ การบูรณาการ Gemini เข้ากับชุดแอปพลิเคชันต่างๆ ของ Google Cloud ซึ่งรวมถึง BigQuery และ Looker พร้อมกับการรองรับคุณลักษณะ AI ขั้นสูง เช่น การค้นหาเวกเตอร์และการฝังในฐานข้อมูล Google Cloud ตอกย้ำถึงความมุ่งมั่นของ Google ในการรวม AI เข้ากับระบบนิเวศคลาวด์อย่างลึกซึ้ง ความก้าวหน้าเหล่านี้ ประกอบกับการรวม AI ในเครื่องมือนักพัฒนาและไลบรารีส่วนต่อประสานกับผู้ใช้ เช่น Cloud Workstations และ React กำลังช่วยให้นักพัฒนาสามารถรวมอินพุตแบบหลายรูปแบบ (เช่น ข้อความและรูปภาพ) เข้ากับแอปพลิเคชันของตนได้ ซึ่งช่วยอำนวยความสะดวกในการสร้างคำแนะนำ การคาดการณ์ และการสังเคราะห์ข้อมูลที่ขับเคลื่อนด้วย AI ที่ซับซ้อนในระยะเวลาที่ลดลงอย่างมาก

เซสชันที่นำโดย Femi Akinde ผู้จัดการผลิตภัณฑ์ของ Google Cloud และ Chloe Condon ได้แสดงให้เห็นสิ่งนี้ผ่านการสาธิตกระบวนการพัฒนาอย่างรวดเร็วตั้งแต่การสร้างแนวคิดไปจนถึงการปรับใช้แอปพลิเคชัน AI ที่สมจริงและสร้างแรงบันดาลใจ ซึ่งนี่ถือเป็นก้าวสำคัญในการทำให้ AI เข้าถึงและใช้งานได้ง่ายขึ้นสำหรับนักพัฒนา ซึ่งจะเป็นการเปิดโอกาสใหม่ๆ สำหรับนวัตกรรมและการพัฒนาแอปพลิเคชันภายในแพลตฟอร์ม Google Cloud

สิ่งใหม่ๆ ที่ทำให้สิ่งนี้เป็นไปได้:

• App Hub - ประกาศเปิดตัววันนี้ และด้วยการผสานรวมอย่างลึกซึ้งกับ Google Cloud Assist ทำให้ App Hub สามารถแสดงภาพแอปพลิเคชันที่ติดตั้งใช้งานและการอ้างอิงทรัพยากรได้อย่างถูกต้องและเป็นปัจจุบัน ไม่ว่าแอปพลิเคชันเหล่านั้นจะใช้ผลิตภัณฑ์ Google Cloud ใดก็ตาม 

• BigQuery continuous queries - ในเวอร์ชันพรีวิว ปัจจุบัน BigQuery สามารถประมวลผล SQL แบบต่อเนื่องบนสตรีมข้อมูลได้แล้ว ซึ่งช่วยให้สร้างไพป์ไลน์แบบเรียลไทม์ร่วมกับตัวดำเนินการ AI หรือ Reverse ETL ได้

• การรองรับภาษาธรรมชาติใน AlloyDB - ด้วยการรองรับอัลกอริทึม ScaNN ที่ล้ำสมัยของ Google ผู้ใช้ AlloyDB จะได้รับประสิทธิภาพเวกเตอร์ที่ได้รับการปรับปรุง ซึ่งเป็นขุมพลังขับเคลื่อนบริการยอดนิยมบางส่วนของ Google 

• Gemini Code Assist ในการจัดการ Apigee API: ใช้ Gemini เพื่อช่วยคุณสร้าง API และการผสานรวมระดับองค์กร โดยใช้พรอมต์ภาษาธรรมชาติ

รัน 

Kaslin Fields นักพัฒนาผู้สนับสนุนของ Google Cloud ได้พูดถึงประเด็นสำคัญของการพัฒนาแอปพลิเคชัน AI ในระหว่างการบรรยายของเธอ นั่นคือการเปลี่ยนผ่านจากการสร้างแอป generative AI ไปสู่การทำให้พร้อมสำหรับการใช้งานจริง ขั้นตอนนี้มีความสำคัญอย่างยิ่ง เนื่องจากเกี่ยวข้องกับการทำให้มั่นใจว่าแอปพลิเคชันสามารถปรับขนาดได้ มีความน่าเชื่อถือ และสามารถรองรับความต้องการในการใช้งานจริงได้

Google Cloud นำเสนอโซลูชันสำหรับความท้าทายนี้ผ่านแพลตฟอร์มอย่าง Cloud Run และ Google Kubernetes Engine (GKE) โดย Cloud Run ได้รับการออกแบบมาเพื่อมอบประสบการณ์ที่ราบรื่นแก่นักพัฒนาในการติดตั้งใช้งานและปรับขนาดแอปพลิเคชันได้อย่างรวดเร็ว ทำให้เป็นตัวเลือกที่ยอดเยี่ยมสำหรับผู้ที่ต้องการนำแอปพลิเคชัน AI จากขั้นพัฒนาไปสู่การใช้งานจริงได้อย่างรวดเร็ว แพลตฟอร์มที่ได้รับการจัดการอย่างเต็มรูปแบบช่วยให้ปรับขนาดและประสิทธิภาพตามความต้องการได้ง่าย รองรับระดับความต้องการของผู้ใช้ที่แตกต่างกันโดยไม่ต้องจัดการโครงสร้างพื้นฐานอย่างยุ่งยาก

ในทางกลับกัน GKE นำเสนอชุดคุณลักษณะที่ครอบคลุมซึ่งตอบสนองความต้องการของแอปพลิเคชัน AI ที่มีความต้องการสูงหรือเฉพาะเจาะจงมากขึ้น โดยมอบสภาพแวดล้อมที่แข็งแกร่ง ปลอดภัย และปรับขนาดได้สำหรับการปรับใช้งานแอปพลิเคชันแบบคอนเทนเนอร์ รวมถึงแอปพลิเคชันที่ขับเคลื่อนด้วย AI ช่วยให้นักพัฒนาสามารถจัดการแอปพลิเคชันของตนได้อย่างยืดหยุ่นและมีประสิทธิภาพ จุดเด่นของ GKE อยู่ที่ความสามารถในการรองรับเวิร์กโหลดและการกำหนดค่าที่ซับซ้อน ทำให้เหมาะสำหรับแอปพลิเคชันที่ต้องการความสามารถในการประมวลผล พื้นที่จัดเก็บข้อมูล และเครือข่ายขั้นสูง

เมื่อทำงานร่วมกัน Cloud Run และ GKE จะช่วยให้นักพัฒนามีทางเลือกที่หลากหลายในการทำให้แอป generative AI ของตนพร้อมสำหรับการใช้งานจริง ไม่ว่าจะสร้างแอปพลิเคชันธรรมดาๆ หรือแอปพลิเคชันที่มีความต้องการเฉพาะตัว แพลตฟอร์มเหล่านี้แสดงให้เห็นถึงความมุ่งมั่นของ Google Cloud ในการจัดหาเครื่องมือที่จำเป็นสำหรับนักพัฒนาเพื่อความสำเร็จในภูมิทัศน์ของการพัฒนาแอปพลิเคชัน AI ที่กำลังพัฒนาอย่างรวดเร็ว

สิ่งใหม่ๆ ที่ทำให้สิ่งนี้เป็นไปได้:

• ผืนผ้าใบแอปพลิเคชัน Cloud Run - สร้าง ปรับเปลี่ยน และติดตั้งใช้งานแอปพลิเคชัน AI ใน Cloud Run พร้อมทั้งมีการผสานรวมกับ Vertex AI เพื่อให้คุณสามารถใช้งาน generative API จากบริการ Cloud Run ได้ในไม่กี่คลิก

• โซลูชันเริ่มต้นใช้งานด่วน Gen AI สำหรับ GKE - รัน AI บน GKE ด้วยรูปแบบ Retrieval Augmented Generation (RAG) หรือรวมเข้ากับ Ray

• การรองรับ Gemma บน GKE: GKE มีตัวเลือกมากมายสำหรับการรัน Gemma ซึ่งเป็นโมเดลเปิดของ Google ที่อิงตาม Gemini และที่ดียิ่งกว่านั้นคือ ประสิทธิภาพที่ยอดเยี่ยมมาก

ดำเนินการ

Steve McGhee นักพัฒนาผู้สนับสนุนความน่าเชื่อถือของ Google Cloud ได้นำเสนอประเด็นสำคัญในระหว่างการกล่าวสุนทรพจน์สำหรับนักพัฒนา โดยเน้นย้ำถึงความซับซ้อนของแอปพลิเคชัน AI เขาตั้งข้อสังเกตว่าแอป AI สามารถแสดงพฤติกรรมที่เกิดขึ้นใหม่ ซึ่งอาจนำไปสู่ปัญหาที่คาดไม่ถึง สิ่งนี้ตอกย้ำถึงธรรมชาติที่ไม่อาจคาดเดาได้ของระบบ AI และความท้าทายเฉพาะตัวในแง่ของความน่าเชื่อถือและการบำรุงรักษา

Charity Majors ผู้ร่วมก่อตั้งและ CTO ของ Honeycomb.io ได้อธิบายเพิ่มเติมเกี่ยวกับเรื่องนี้โดยเปรียบเทียบความล้มเหลวของระบบในปัจจุบันกับในอดีต เธอตั้งข้อสังเกตว่าในขณะที่ความล้มเหลวของระบบเคยเกิดขึ้นในรูปแบบที่ค่อนข้างคาดเดาได้ แต่ระบบในปัจจุบันมีความคล่องตัวและสับสนอลหม่านมากกว่ามาก สถาปัตยกรรมสมัยใหม่มีความซับซ้อนมากขึ้นเรื่อยๆ โดยมีลักษณะเด่นคือความหลากหลาย การพัฒนาอย่างต่อเนื่อง และลักษณะการกระจายตัวของส่วนประกอบ ความซับซ้อนนี้ทำให้การแก้ไขปัญหาและการรับประกันความน่าเชื่อถือของระบบเหล่านี้เป็นงานที่ท้าทายมากขึ้นอย่างมาก

ข้อมูลเชิงลึกเหล่านี้จาก McGhee และ Majors ชี้ให้เห็นถึงภูมิทัศน์ของเทคโนโลยีที่กำลังพัฒนา ซึ่งการเกิดขึ้นของสถาปัตยกรรมแบบไดนามิกที่ขับเคลื่อนด้วย AI ต้องการแนวทางใหม่ในการออกแบบระบบ การตรวจสอบ และการบำรุงรักษา เมื่อระบบต่างๆ มีความสามารถและเป็นอิสระมากขึ้น การรับประกันความน่าเชื่อถือและการคาดการณ์พฤติกรรมจึงกลายเป็นงานที่ซับซ้อนมากขึ้น ซึ่งต้องใช้เครื่องมือและวิธีการขั้นสูง การเปลี่ยนแปลงนี้ตอกย้ำถึงความสำคัญของการพัฒนาเครื่องมือตรวจสอบและวิเคราะห์ที่มีประสิทธิภาพ เช่น เครื่องมือที่นำเสนอโดย Honeycomb.io เพื่อจัดการกับความซับซ้อนและความไม่แน่นอนของระบบสมัยใหม่ที่ขับเคลื่อนด้วย AI

แต่สิ่งที่ generative AI นำไป — คือการคาดการณ์ได้ของระบบเดิมๆ — มันก็ได้มอบสิ่งใหม่กลับมาในรูปแบบของเครื่องมือใหม่ๆ เพื่อช่วยให้คุณเข้าใจและรับมือกับการเปลี่ยนแปลงได้เช่นกัน 

สิ่งใหม่ๆ ที่ทำให้สิ่งนี้เป็นไปได้:

• ความสามารถด้าน Vertex AI MLOps - ในเวอร์ชันพรีวิว Vertex AI Prompt Management ช่วยให้ลูกค้าทดลอง ย้ายข้อมูล และติดตามพรอมต์และพารามิเตอร์ต่างๆ ได้ เพื่อให้สามารถเปรียบเทียบเวอร์ชันของพรอมต์และประเมินว่าการเปลี่ยนแปลงเล็กๆ น้อยๆ ส่งผลกระทบต่อผลลัพธ์อย่างไร ในขณะที่ Vertex AI Rapid Evaluation ช่วยให้ผู้ใช้ประเมินประสิทธิภาพของโมเดลเมื่อต้องปรับปรุงการออกแบบพรอมต์ที่ดีที่สุด 

• การตรวจจับ Shadow API - ในเวอร์ชันพรีวิวของ ระบบความปลอดภัย API ขั้นสูง ระบบตรวจจับ shadow API จะช่วยคุณค้นหา API ที่ไม่มีการควบคุมดูแลหรือการกำกับดูแลที่เหมาะสม ซึ่งอาจเป็นแหล่งที่มาของเหตุการณ์ด้านความปลอดภัยที่สร้างความเสียหายได้

• ตัวเร่งความเร็วที่เป็นความลับสำหรับเวิร์กโหลด AI - Confidential VMs บนเครื่องซีรีส์ A3 ที่มี NVIDIA Tensor Core H100 GPUs ช่วยขยายการปกป้องข้อมูลและโมเดลบนพื้นฐานฮาร์ดแวร์จาก CPU ไปยัง GPUs ที่ประมวลผลข้อมูล AI และการเรียนรู้ของเครื่องที่ละเอียดอ่อน 

• การโหลดคอนเทนเนอร์และโมเดลของ GKE ล่วงหน้า - ในเวอร์ชันพรีวิว ปัจจุบัน GKE สามารถเร่งการเริ่มทำงานของเวิร์กโหลดขณะปิดเครื่อง (cold-start) เพื่อปรับปรุงการใช้ GPU ประหยัดค่าใช้จ่าย และรักษาความหน่วงในการอนุมาน AI ให้ต่ำ