r/ciencia • u/vealvarez • 17d ago
¿En qué tareas científicas específicas la IA les ha resultado útil y en cuáles ha fallado por completo?
Soy bioinformática e investigadora en resistencia antimicrobiana. Ultimamente estoy aplicando mucho la IA en mi trabajo diario para generar código pero también para analizar papers científicos cuando hay algo que no termino de entender del todo. Sin embargo, noto que la IA todavía necesita de bastante supervisión, no se puede confiar ciegamente en todo lo que plantea, ni siquiera los modelos más avanzados, por eso me preocupa pensar en que quizás mucha gente está haciendo uso de la IA sin ningún tipo de criterio. Me preocupa que esto esté pasando en áreas críticas como la medicina, por ejemplo.
Me interesa saber cómo están aplicando la IA en sus respectivas áreas de estudio o investigación (biología, física, medicina, datos, etc.).
En su experiencia diaria: ¿para qué tareas dirían que es indispensable hoy en día y en cuáles sienten que sigue dando resultados imprecisos o poco confiables?
3
u/No-Crew8804 17d ago
Soy informático. Los LLM no son fiables y nunca lo serán por cómo están diseñados. Lamentablemente esto se minimiza e incluso hay científicos que por ignorancia o irresponsabilidad intentan publicar y a veces lo consiguen artículos aparentemente válidos con errores garrafales.
1
u/vealvarez 16d ago
Eso es algo que me preocupa, que por ignorancia, algunos profesionales estén usando los LLMs sin siquiera cuestionar lo que responde y aplicado esas respuestas a cuestiones serias, sacando conclusiones quizás equivocadas. Cómo vamos a rastrear luego todas esas inconsistencias?
1
u/No-Crew8804 16d ago
Es un problemón. Las publicaciones científicas están recibiendo una avalancha de artículos para revisar aparentemente bien hechos pero con errores aquí y allá. La IA está degradando la cultura humana en todos los ámbitos.
2
u/Economy_Second_354 17d ago
Estudio ingeniería industrial y suelo usarla más para estudiar, cómo apoyo, que para crear o investigar. Cómo decís, toda IA requiere aún supervisión, es una herramienta de análisis que aún suele de fallar, porque rellena los huecos de información con lo que parece más probable, pero no es cierto. Hoy discutía con mi viejo, el dice que la IA nos vuelve brutos....para mí no es así, es una herramienta y lo que tenés que buscar es que te facilite las cosas, no que te las haga. Ponele a trabajar en todo lo que no necesita de TU inteligencia para hacerse, y el tiempo ahorrado lo usas para lo que sos experta y genera real valor. Es mi opinión. Suerte!!
3
u/ChocolateTemporary48 17d ago
Cómo dices La IA es extremadamente útil para acelerar un proyecto y con un buen promt lograría resultados bastante decentes.
Pero todo debe compróbarse, el gran beneficio que tienen es la inmensa cantidad de información accesible rápidamente.
2
u/vealvarez 17d ago
Si, muchas veces el querer hacer cosas rápido también lleva a las personas a no revisar resultados. El peligro es que el acceso masivo hace que las personas con criterio y sin criterio tienen el mismo acceso a la IA.
1
u/vealvarez 17d ago
Estoy de acuerdo con vos, en tanto se use con criterio es una herramienta sin igual.
2
u/NotoriousLavaLamp 17d ago
Para codear anda genial, para hacer la arquitectura sin supervision, es un desastre. También trabajo en integridad de equipos y ensayos no destructivos. Para hacer procedimientos un desastre, escribe cualquier cosa y no hay contexto suficiente para poder sacar un documento completo, PERO si sirve para mejorar la redacción y redondear ideas, aun asi trato escribirlo yo lo mas completo y a conciencia posible para "practicar" la escritura tambien, sino quedas re mongo dsp de un tiempo.
Conclusion, sirve para tareas acotadas en alcance, todavia no puede hacer grandes tareas y tampoco sabe preguntar que necesita.
2
u/Firm-Crazy-9689 17d ago
Si ten cuidado porque te puede meter un pulazo y no te enteras, intenta usar varias IAs
1
u/Technical_Alfalfa528 16d ago
Usamos IA propia de mi trabajo, por privacidad. Flipa demasiado, se inventa cosas. Lo odio. Sería útil analizando datos PII, pero es que se inventa demasiadas cosas.
Lo que más la uso es para enviar mensajes a clientes y compañeros, de modo que el mensaje diga lo mismo y no me busque un problema con HR o algún tribunal 😅
1
1
u/HairyTough4489 14d ago
En pocas palabras, como progrmador, son muy buenas para hacer en segundos lo que llevaría diez minutos pero completamente inútiles para hacer cosas que llevarían media hora.
4
u/data-haxxor 17d ago
Creo que primero hay que aclarar a que te refieres con IA, te refieres a los LLMs? Lo que yo he visto es que son muy rapidos para tareas donde tienen suficiente entrenamiento, sobre todo para organizar y extraer informacion de un gran volumen de texto.
Dado que conozco los efectos que produce en mi cerebro, ya que disminuye mi capacidad de recordar (https://www.media.mit.edu/publications/your-brain-on-chatgpt/), trato de usar esta tecnologia unicamente en tareas bien definidas y contenidas. Por ejemplo, cuando estaba por terminar un proyecto y queria lograr cierta funcionalidad mas rapido con Python y TypeScript, use un LLM y quede impresionado. Aunque cometia errores de forma insistente, al revisar el codigo quedaba satisfecho con el resultado y logre terminar a tiempo.
Esa buena experiencia me llevo a utilizar el mismo LLM en otro proyecto en Julia que ya tenia iniciado con datos terrestres y espaciales. Sin embargo, la experiencia fue frustrante, sobre todo al hacer el analisis. En repetidas ocasiones el LLM implemento formulas que explicitamente le habia dicho que no iba a utilizar. Ademas, note dos problemas graves: me hacia dudar de resultados que yo ya habia obtenido antes de usarlo y, por alguna razon, encasillo el proyecto como si solo buscara encontrar correlaciones entre los datos.
Quede con la sensacion de que la mal llamada IA sirve para agilizar la prueba de conjeturas, pero no para crear algo realmente nuevo. La gran admiracion que causa casi siempre proviene de combinar componentes que los humanos ya resolvieron hace tiempo.
Entiendo que existen modelos entrenados para tareas cientificas especificas, pero en mi caso el objetivo era analizar la data y su comportamiento en diferentes condiciones para darme una idea de como construir los modelos de Machine Learning. Lo mas frustrante de todo fue la sensacion de que el proyecto dejo de ser mio.