+34
Un creador de contenido quiso poner a prueba las capacidades de un nuevo agente de IA de Meta, pero el experimento terminó tomando un rumbo que no esperaba.
Un creador de contenido quiso poner a prueba las capacidades de un nuevo agente de IA de Meta, pero el experimento terminó tomando un rumbo que no esperaba.
Únase a nuestro canal de Whatsapp y manténgase al tanto de los hechos más relevantes.tomar acciones en nombre del usuario , como responder mensajes, organizar información o interactuar con diferentes servicios. Por eso, una de las principales preocupaciones es definir claramente hasta dónde llega la autonomía de estas herramientas.
Según Business Insider, Robb permitió que Muse administrara la conversación con posibles compradores de su teclado y le entregó información necesaria para coordinar la venta, como horarios disponibles y detalles del proceso de recogida. Sin embargo, el resultado no fue lo que esperaba, ya que la herramienta tomó decisiones durante la negociación que el usuario no había previsto, lo que llevó a Robb a preguntarse sobreEl punto de inflexión se dio con una configuración, cuando Muse le permitió elegir entre autorizar una acción puntual o darle permiso permanente para continuar actuando.
El creador de contenido eligió la segunda opción pensando que la IA seguiría solicitando aprobación antes de tomar decisiones importantes. Pero, según explicó posteriormente, esa configuración permitió que el agente continuara gestionando la conversación utilizando la información que ya tenía disponible.para un usuario, permitir que una IA ayude con una venta es muy diferente a permitir que negocie, comparta información y coordine una entrega sin una confirmación adicionalFue después de esa configuración cuando ocurrió el episodio que se viralizó.
La IA terminó negociando con un comprador, aceptó una oferta —que Robb consideró demasiado baja—y compartió la dirección de entrega. El interesado llegó hasta el edificio creyendo que el vendedor estaba esperando, mientras Robb no tenía conocimiento de que el encuentro ya había sido coordinado. La situación se volvió todavía más llamativa cuando el comprador avisó que había llegado y recibió una respuesta automática de Muse dando a entender que el vendedor estaba disponible.
Finalmente, la persona se retiró molesta y dejó una calificación negativa. La diferencia está precisamente en su capacidad para actuar ya que, mientras un chatbot responde preguntas dentro de una conversación, En este caso, Meta presentó Muse alegando que es un agente personal capaz de realizar acciones en nombre de las personas y señaló que los usuarios pueden decidir qué nivel de acceso otorgarle.
Este episodio muestra por qué estos permisos requieren especial cuidado y, antes de darle control permanente a un agente, debe revisar
Colombia Últimas Noticias, Colombia Titulares
Similar News: También puedes leer noticias similares a ésta que hemos recopilado de otras fuentes de noticias.
Hay alerta en el Meta por muertes asociadas al dengue: síntomas y cómo prevenirloLas autoridades realizan jornadas de prevención en barrios para eliminar criaderos del mosquito transmisor.
Leer más »
Los detalles de la reunión de Trump con magnates de la IA: EE. UU. apuesta por la autorregulación para evitar el descontrol de la tecnologíaEstuvieron presentes los CEO de Meta, Google, Anthropic, Nvidia, Amazon y Tesla.
Leer más »
Advierten a ciudadanos por nuevo cobro en el servicio de energía: ¿de qué se trata?El esquema busca reducir el consumo durante el periodo de El Niño y establece un cobro para quienes superen su meta individual.
Leer más »
José Manuel Restrepo sostuvo encuentro con Meta para llevar tecnología a los 'nini' y apuntar al crecimiento del 6%El vicepresidente ya ha sostenido reuniones con las empresas tecnológicas más importantes del mundo.
Leer más »