{"id":15556,"date":"2023-09-19T16:09:03","date_gmt":"2023-09-19T16:09:03","guid":{"rendered":"https:\/\/bluetab.net\/?p=15556"},"modified":"2023-09-19T16:09:03","modified_gmt":"2023-09-19T16:09:03","slug":"el-futuro-del-cloud-y-genia-en-el-next-23","status":"publish","type":"post","link":"https:\/\/bluetab.co.uk\/en\/2023\/09\/el-futuro-del-cloud-y-genia-en-el-next-23\/","title":{"rendered":"El futuro del Cloud y GenIA en el Next ’23"},"content":{"rendered":"
\"\"<\/a><\/figure>\n

Lucas Calvo<\/a><\/h4>\n

Cloud Engineer<\/p>\n

\"\"<\/a><\/figure>\n

Javi Perez<\/a><\/h4>\n

Cloud Engineer<\/p>\n

\"\"<\/a><\/figure>\n

Gabriel Gallardo<\/a><\/h4>\n

Cloud Engineer<\/p>\n

Este a\u00f1o desde Bluetab hemos ido al Google Cloud Next, la conferencia anual organizada por Google Cloud, uno de nuestros partners de referencia adem\u00e1s de uno de los principales proveedores Cloud del mundo. Este evento est\u00e1 orientado para dar a conocer todos sus nuevos anuncios de productos as\u00ed como casos de usos de \u00e9xito que se han realizado con distintos clientes sobre su plataforma.<\/p>\n

En esta ocasi\u00f3n, hemos viajado hasta San Francisco para ver todas las \u00faltimas novedades que nos presenta Google, as\u00ed como tener la oportunidad de debatir sobre distintas \u00e1reas como la inteligencia artificial, aprendizaje autom\u00e1tico, an\u00e1lisis de datos y otros temas relacionados con los servicios de Google Cloud con los principales ingenieros que los desarrollan.<\/p>\n

Tal y como viene siendo costumbre este a\u00f1o los anuncios m\u00e1s importantes han venido relacionados con la Generative AI, esta revoluci\u00f3n tecnol\u00f3gica que nos ha abierto un mundo de posibilidades y avances. Comenzando por la parte cl\u00e1sica, a medida que seguimos generando m\u00e1s datos y explorando sistemas cada vez m\u00e1s complejos con datos que tienen un mayor grado de actualizaci\u00f3n para garantizar que las recomendaciones y los resultados sean reflejos precisos del mundo en evoluci\u00f3n que nos rodea, debemos disponer de una capacidad de c\u00f3mputo escalable que proporciona una gran conectividad. Orquestar las cargas de trabajo actuales a gran escala siempre ha requerido un esfuerzo manual para gestionar los fallos. Sin embargo, hoy somos capaces de simplificar los esfuerzos que conlleva la gesti\u00f3n de estas cargas de trabajo, sobre todo las destinadas a IA con la integraci\u00f3n de las TPU en la nube en GKE, el servicio Kubernetes m\u00e1s escalable y l\u00edder del sector en la actualidad.<\/p>\n

Este ha sido uno de los anuncios m\u00e1s importantes del Next\u201923, ya que ahora los clientes pueden mejorar la productividad del desarrollo de IA aprovechando GKE para gestionar la orquestaci\u00f3n de cargas de trabajo de IA a gran escala en las nuevas Cloud TPU v5e, as\u00ed como en Cloud TPU v4. Esta nueva generaci\u00f3n tiene hasta 2,5 veces m\u00e1s rendimiento en comparaci\u00f3n con Cloud TPU v4, pero lo realmente importante es la nueva tecnolog\u00eda Multi Slicing que permite realizar entrenamientos distribuidos m\u00e1s all\u00e1 de los l\u00edmites f\u00edsicos de una TPU, escalando a cientos de pods con estos dispositivos.<\/p>\n

Igualmente, merece la pena destacar la mejor en las instancias de c\u00f3mputo para las cargas de trabajo no relacionadas con la IA, pero que tienen igual o mayor importancia para nuestros, para ello Google presente su nueva familia de VMs basadas respectivamente en procesadores de AMD (C3D) o ARM (C3A) que se suman a las instancias A3 donde disfrutaremos de las nuevos GPUs de Nvidia: las H100. Todo aderezado con las nuevas reservas, ahora en versi\u00f3n preliminar, que son una nueva funci\u00f3n de Compute Engine que permite reservar capacidad para una fecha futura.<\/p>\n

Aunque estas nuevas ventajas\u00a0 abren las posibilidades a un nuevo mundo en la nube, la realidad sigue siendo que trabajar con Large Language Models es complicado, no solo se necesita losl \u00faltimos avances en hardware, sino tambi\u00e9n el tiempo a invertir para obtener un resultado de calidad. Google se ha puesto las pilas para solventar esta problem\u00e1tica, y ofrecer a nuestros clientes el nuevo concepto de \u201cModel Garden\u201d que Microsoft anunci\u00f3 en su conferencia anual Build y que tambi\u00e9n AWS est\u00e1 trabajando para incorporar en Amazon JumpStart. Esta nueva capacidad permite elegir con qu\u00e9 Modelo Fundacional queremos trabajar en un click, solo necesitamos entender qu\u00e9 tipo de Prompt Engineering estamos trabajando para comenzar a construir nuestras soluciones de Information Retrieval con Vertex AI Search and Conversation. Pero Google Cloud no se queda en el \u201cModel Garden\u201d donde podremos encontrar los \u00faltimos LLM como son: Llama 2 y Code Llama de Meta, Falcon LLM del Technology Innovation Institute y Claude 2 de Anthropic, sino que tambi\u00e9n podremos personalizarlo con las caracter\u00edsticas m\u00e1s relevantes que nosotros creamos conveniente para el caso de uso que estamos trabajando, lo cual nos permite generar un flujo de trabajo de tipo Reinforcement Learning with Human Feedback (RLHF), aumentando la confianza en nuestras aplicaciones conversacionales y de b\u00fasqueda mediante la IA generativa.<\/p>\n

Con los nuevos productos de Vertex AI, la base de datos original de la organizaci\u00f3n se convierte en la pieza fundamental para que la IA generativa se capaz de buscar la informaci\u00f3n que es relevante para la persona que le est\u00e1 preguntado acerca de una cuesti\u00f3n de negocio, y para que la experiencia sea m\u00e1s sencilla posible se presentaron las nuevas extensiones Vertex AI permiten a los modelos realizar acciones y recuperar informaci\u00f3n espec\u00edfica en tiempo real y actuar en nombre de los usuarios a trav\u00e9s de Google y aplicaciones de terceros como Datastax, MongoDB y Redis, sin olvidar los nuevos conectores que ayudan a ingerir datos de otras aplicaciones empresariales como Salesforce, Confluence y JIRA.<\/p>\n

Finalmente, se ha presentado la evoluci\u00f3n del Vertex AI Feature Store para su uso tiempo real mediante la b\u00fasqueda vectorial y sem\u00e1ntica con BigQuery, que mejora su integraci\u00f3n de machine learning mediante BigQuery ML, e incorpora la facilidad de uso de notebooks con Colab para crear nuevos modelos a medidas pero con todas las funciones de seguridad y cumplimiento de normativas que una organizaci\u00f3n require. Es decir, un nuevo mundo de posibilidades para integrar la Generative AI con tu negocio.<\/p>\n

Y es a nivel empresarial donde m\u00e1s destaca su anuncio m\u00e1s esperado, la presentaci\u00f3n global de Duet AI dentro de Google Workspaces y Google Cloud Services. A\u00fan tendremos que esperar algunos d\u00edas para que se vayan actualizando todos los servicios con nueva capacidad de IA generativa que nos permitir\u00e1 realizar una b\u00fasqueda avanzado entre todos los documentos que almacenemos en Google Drive para encontrar aquellos que son realmente interesantes par la tarea que estamos haciendo, o ser capaces de escribir actas de forma autom\u00e1tica mediante Chat y preguntar por el propio contenido de la reuni\u00f3n, as\u00ed como crear nuevos presentaciones en base a breves pero concisas descripciones, ahora tiempo de tener que empezar de cero sin una buena base. Duet AI proporciona un asistente de IA generativa entrenada espec\u00edficamente, por ejemplo, en la documentaci\u00f3n de GKE para ayudar a los equipos de la plataforma a reducir el tiempo que tardan en aprender y gestionar Kubernetes, no solo a la hora de desplegar una nueva aplicaci\u00f3n, sino tambi\u00e9n a la hora de encontrar los bugs y depurar su origen, o incluso registrar nuestros findings de seguridad para identificar las fallas que puedan existir en nuestras aplicaciones. Con Duet AI, se podr\u00eda incluso llevar a plantear una migraci\u00f3n de c\u00f3digo legacy, o documentar aquellas partes del c\u00f3digo que se quedan hu\u00e9rfanas de forma autom\u00e1tica. Adem\u00e1s, este anuncio no solo se queda ah\u00ed ya que Duet permitir\u00e1 a usuarios sin conocimientos realizar consultas para monitorizar sus aplicaciones con lenguaje natural, evitando as\u00ed el uso de otros lenguajes m\u00e1s complejos como Promql.<\/p>\n

Por la parte m\u00e1s tradicional de data tambi\u00e9n hemos tenido distintos anuncios como\u00a0 el nuevo producto que se ha lanzado de BigQuery, BigQuery Studio que nos ofrece un espacio \u00fanico para el trabajo de ingenier\u00eda de datos facilitando que todos los profesionales aceleren los datos hacia los flujos de trabajo de IA . Podr\u00edamos destacar entre sus caracter\u00edsticas m\u00e1s importantes que es un espacio de trabajo unificado usando SQL y notebooks en el cual se permite el uso m\u00faltiples lenguajes de programaci\u00f3n (SQL, Python, Spark, Javascript y lenguaje natural), adem\u00e1s ofrece control de versiones e historial de revisiones centralizado y un asistente de c\u00f3digo y chat impulsado por IA que nos permitir\u00e1 mejorar la productividad. Otra parte importante que hay que se\u00f1alar en BigQuery Studio es que permite realizar de forma sencilla y autom\u00e1tica el profiling, la calidad y el linaje para todos los assets de datos coordinado con herramientas como dataplex.<\/p>\n

Adem\u00e1s en esta edici\u00f3n, se han presentado nuevas funcionalidades para poder llevar BigLake a una plataforma lakehouse gestionada. Entre las nuevas caracter\u00edsticas encontramos la integraci\u00f3n con formatos de datos abiertos (Apache Iceberg, Delta y Hudi) permitiendo un control de acceso detallado y rendimiento de forma integrada. Otra de las novedades que se ha incluido BigLake son las tablas gestionadas que usan formato abierto Apache Iceberg y permiten uso de streaming sobre ellas con alto rendimiento as\u00ed como todas las ventajas que ofrece Apache Iceberg. Con el servicio de BigLake se puede afrontar los nuevos retos que plantean arquitecturas orientadas al Data Mesh de una forma mucho m\u00e1s sencilla y dando la posibilidad de compartir nuestros set de datos dentro de toda la organizaci\u00f3n.<\/p>\n

Tambi\u00e9n en la parte de contenedores y orquestaci\u00f3n ha habido algunos puntos importantes, con anuncios en sus productos estrellas y diferenciales en el mercado como es GKE y Cloud Run. Desde hace unos a\u00f1os Google est\u00e1 apostando cada vez m\u00e1s a soluciones de orquestaci\u00f3n de contenedores totalmente administradas, ya lo vimos con autopilot en 2021 y Cloud Run y ahora adem\u00e1s est\u00e1 queriendo hacer m\u00e1s sencillo el uso de Kubernetes integr\u00e1ndose con Duet para realizar recomendaciones y configuraciones de aplicaciones y servicios con lenguaje natural.<\/p>\n

Todas las novedades las podemos resumir en el siguiente post<\/p>\n

https:\/\/cloud.google.com\/blog\/topics\/google-cloud-next\/next-2023-wrap-up<\/a><\/p>\n

Conclusiones<\/b><\/p>\n