La mediática Connie Ansaldi está envuelta en un escándalo porque lanzó una app que ofrece asistencia psicológica utilizando sólo chat gpt y sin intervención de profesionales.
Un nuevo escándalo se cocina en la trastienda de la proliferación del uso de inteligencias artificiales en reemplazo de cada vez más oficios humanos. Incluso aquellos que se pensaban inalcanzables por su carácter de necesario frente a frente por todo lo que implica, por ejemplo, la contención psicológica en lo que hace a salud mental. En las últimas horas y luego de que Telenoche compartiera un informe sobre una aplicación creada por la mediática Connie Ansaldi que ofrece asistencia psicológica a base de IA, la discusión volvió a surgir.
Se trata de "Cux, contame un secreto”, una app que no es una inteligencia artificial propia sino un modelo de búsqueda similar a Chat GPT. Quien requiera sus servicios tiene diez conversaciones gratuitas, y luego se paga un abono mensual de $3.500. “Se puede chatear 24/7 en este espacio de contención y apoyo emocional para ayudar a las personas a encontrar su bienestar”, según reza la descripción de la plataforma.
Pero lo más cuestionable del caso gira en torno a la adquisición que hizo el municipio bonaerense de Trenque Lauquen en octubre pasado de los servicios de esta app que promocionó como parte de su política de salud mental. El contrato era por tres meses e implicaba el uso gratuito de la misma para los habitantes del partido. Sin embargo, ni siquiera se cumplió ese plazo porque hace unos meses dejaron de contratar el servicio por recomendación de los profesionales de la salud.
Entre otras cosas, porque el bot no considera un límite a su intervención y es fácil de vulnerar en aquellas pocas barreras que impone. Así lo demostró un usuario de Twitter, quien adjuntó una captura de la conversación que tuvo con la IA en la que le recomendaba tomar clonazepam, un medicamento que solo debe ser consumido bajo estricta recomendación médica.
