Posts sobre software e IA.

2/ Todo gira en torno a un algoritmo que mide si una nota es “útil” o no. Primero, los usuarios califican las notas como “útil,” “algo útil” o “no útil.” Después, el algoritmo usa estos votos para entrenar un modelo que evalúa tanto la utilidad de las notas como la "calidad" (o la confianza del sistema) de los votantes. 🧠

3/ Pero no basta con acumular votos: hace falta consenso transversal. Es decir, apoyo tanto de usuarios de izquierda como de derecha. Si no hay acuerdo entre ambos extremos, la nota no se publica. 🤝 Este consenso actúa como indicador de calidad: si convence a todos, es probable que sea información fiable.

4/ Además, tu influencia depende de tu historial. Si tus votos suelen alinearse con el consenso, tu peso en el sistema aumenta. Si estás siempre en desacuerdo con todos, tu impacto disminuye. Esto evita que usuarios sesgados distorsionen el resultado. 🎯 (Obviamente esto no está libre de riesgos)

5/ Abuso penalizado: si una nota es marcada como ofensiva por consenso transversal, quienes la calificaron como “útil” pierden credibilidad. 🛑 Así el sistema desalienta el comportamiento tóxico y premia la participación constructiva.

6/ Resumen del algoritmo: • Solo se publican notas con consenso entre izquierda y derecha. • Los usuarios fiables tienen más peso. • Los abusos se castigan. Es simple en concepto, pero plantea preguntas: • ¿Es sostenible este equilibrio? • ¿Reducir todo a “izquierda” y “derecha” no es muy simplista? 🤔

7/ En cualquier caso, el sistema es un experimento fascinante. No es perfecto, pero parece una buena base para gestionar la desinformación en plataformas masivas. Y, siendo realistas, en la práctica no va mal. ¿Tú qué opinas? 💬

8/ Si quieres profundizar, este post de Less Wrong lo explica mejor que yo: lesswrong.com/posts/sx9wTyCp5kgy8xGac/co…

Antes usaba SML (LLMs pequeños) para unificar reportes en un formato universal y luego darles el estilo que quería. Aunque este enfoque ofrece los mejores resultados, presenta varios problemas:

1) Largos tiempos de espera para el usuario ⏳ Este es probablemente el mayor problema para mí. Quiero una experiencia fluida y sin interrupciones. Que los usuarios tengan que esperar a que se generen los reportes con la IA ha sido la principal razón para buscar un cambio.

2) Inconsistencias en reportes por IA, dificultando comparaciones anuales Novus permite comparar reportes anuales y resaltar diferencias, pero el modelo anterior creaba inconsistencias y hacía difícil una comparación coherente

3) Costes desorbitados 💸 La IA dispara los costes. Aunque han bajado bastante, generar cientos de miles de reportes sigue siendo una carga que no puedo pasar por alto.

¿Cuál es mi solución actual? 🔍 Un nuevo método de procesamiento: "normalizo" e integro los reportes sobre el estilo original. Así, reducimos problemas de formato, ahorramos costes y, lo mejor de todo, ¡MUCHO MÁS RÁPIDO! 🚀

¿Descartar el otro enfoque? Sí y no. Las limitaciones del otro enfoque se resolverán en los próximos meses, así que probablemente lo retome cuando la tecnología cumpla con mis requisitos de calidad para una mejor experiencia de usuario. 😉🔜