ORES
 Advertencia: | The ORES infrastructure is being deprecated by the Machine Learning team, please check wikitech:ORES for more info. |
ORES (/ɔɹz/, en inglés «Objective Revision Evaluation Service» o «Servicio Objetivo de Evaluación de Revisiones») es un servicio web y una API que proporciona aprendizaje automático como servicio para proyectos de Wikimedia mantenidos por el equipo de la plataforma de clasificación. El sistema está diseñado para ayudar a automatizar el wiki-trabajo crítico (por ejemplo, la detección y eliminación del vandalismo). Actualmente, los dos tipos generales de puntuaciones que genera ORES están en el contexto de "calidad de edición" y "calidad de artículo".
ORES es un servicio de back-end y no proporciona directamente una forma de hacer uso de las clasificaciones. Si deseas usar las clasificaciones de ORES, consulta nuestra lista de herramientas que usa clasificaciones de ORES. Si ORES aún no es compatible con tu wiki, consulta nuestras instrucciones para solicitar asistencia.
¿Buscas respuestas a tus preguntas sobre ORES? Comprueba la página de preguntas y respuestas.
Calidad de edición
Una de las preocupaciones más críticas sobre los proyectos abiertos de Wikimedia es la revisión de las contribuciones potencialmente dañinas («ediciones»). También existe la necesidad de identificar a los colaboradores de buena fe (que puedan estar causando daño inadvertidamente) y ofrecerles apoyo. Estos modelos están diseñados para facilitar el trabajo de filtrado a través de Especial:CambiosRecientes. Ofrece dos niveles de soporte para editar modelos de predicción de calidad: básico y avanzado.
Soporte básico
Suponiendo que las ediciones más dañinas serán revertidas y las que no sean dañinas no se revertirán, pomemos trabajar utilizando el historial de ediciones (y ediciones revertidas) de una wiki. Este modelo es fácil de configurar, pero adolece del problema de que muchas ediciones se revierten por motivos distintos al vandalismo. Para ayudar con esto, creamos un modelo basado en palabras malas.
reverted– predice si una edición será finalmente revertida
Soporte avanzado
En lugar de suponer, podemos pedir a los editores que entrenen ORES con aquellas ediciones que son de hecho dañinas damaging y las que parezcan haber sido realiazas de buena fe goodfaith.
Esto requiere un trabajo adicional por parte de los voluntarios en la comunidad, pero ofrece una predicción más precisa y matizada con respecto a la calidad de una edición.
Muchas herramientas solo funcionarán cuando haya un soporte avanzado disponible para una wiki concreta.
damaging– predice si una edición es dañinagoodfaith– predice si una edicion fue realizada de buena fe
Calidad de un artículo
La calidad de los artículos de Wikipedia es una preocupación fundamental para los wikipedistas. Las páginas nuevas deben revisarse y curarse para garantizar que el spam, el vandalismo y los artículos de ataque no permanezcan en la wiki. For articles that survive the initial curation, some of the Wikipedians periodically evaluate the quality of articles, but this is highly labor intensive and the assessments are often out of date.
New article evaluation
Mientras más rápido se eliminen los borradores realmente problemáticos, mejor. La verificación de nuevas páginas puede ser una gran tarea. Al igual que el problema del contra-vandalismo en las ediciones, las predicciones automáticas pueden ayudar a los verificadores a enfocarse primero en las páginas nuevas más problemáticas. En función de los comentarios que dejan los administradores cuando eliminan páginas (consulta la tabla de logging), se puede entrenar un modelo para predecir qué páginas necesitarán un borrado rápido. Consulta es:WP:BR para ver la lista de criterios para el borrado rápido de Wikipedia en español. Para el modelo en español, utilizamos G3 «Páginas promocionales», G10 «Para mantenimiento elemental», y G11 «A petición del único autor».
draftquality– predice si el artículo necesita ser eliminado rápidamente (spam, vandalismo, ataque u OK)
Existing article assessment
Para los artículos que sobreviven a la verificación inicial, algunas de las Wikipedias grandes evalúan periódicamente la calidad de los artículos usando una escala que corresponde aproximadamente a la escala de calificación de evaluaciones («articlequality») de Wikipedia en inglés 1.0.
Tener estas evaluaciones es muy útil porque nos ayuda a medir nuestro progreso e identificar oportunidades perdidas (P.ej., artículos populares de baja calidad).
Sin embargo, mantener estas evaluaciones al día es un desafío, por lo que la cobertura es inconsistente.
Aquí es donde el modelo de aprendizaje automático articlequality es útil.
Al entrenar un modelo para replicar las evaluaciones de la calidad de un artículo que realizan los humanos, podemos evaluar automáticamente cada artículo y cada revisión con una computadora.
Este modelo se ha utilizado para ayudar a WikiProyectos en el trabajo de triage de reevaluaciones y para explorar las dinámicas de edición que conducen a mejoras en la calidad de los artículos.
El modelo wp10 basa sus predicciones en las características estructurales del artículo. P.ej. ¿Cuántas secciones hay? ¿Hay un cuadro de información? ¿Cuántas referencias? ¿Y las referencias usan una plantilla {{Cite xxx}}? El modelo wp10 no evalúa la calidad de la escritura ni si hay o no un problema de tono (por ejemplo, si se está presionando un punto de vista). Sin embargo, muchas de las características estructurales de los artículos parecen correlacionarse fuertemente con la buena escritura y el tono, por lo que los modelos funcionan muy bien en la práctica.
articlequality– *articlequality– predice la clase de evaluación (tipo Wikipedia 1.0) de un artículo o borrador
Topic routing
ORES' article topic model applies an intuitive top-down taxonomy to any article in Wikipedia -- even new article drafts. This topic routing is useful for curating new articles, building work lists, forming new WikiProjects, and analyzing coverage gaps.
ORES topic models are trained using word embeddings of the actual content. For each language, a language-specific embedding is learned and applied natively. Since this modeling strategy depends on the topic of the article, topic predictions may differ between languages depending on the topics present in the text of the article.
New article evaluation
The biggest difficulty with reviewing new articles is finding someone familiar with the subject matter to judge notability, relevance, and accuracy.
Our drafttopic model is designed to route newly created articles based on their apparent topical nature to interested reviewers.
The model is trained and tested against the first revision of articles and is thus suitable to use on new article drafts.
drafttopic– predicts the topic of an a new article draft
Topic interest mapping
The topical relatedness of articles is an important concept for the organization of work in Wikipedia.
Topical working groups have become a common strategy for managing content production and patrolling in Wikipedia.
Yet a high-level hierarchy is not available or query-able for many reasons.
The result is that anyone looking to organize around a topic or make a work-list has to do substantial manual work to identify the relevant articles.
With our articletopic model, these queries can be done automatically.
articletopic– predicts the topic of an article (more details)
Tabla de soporte
La tabla de soporte de ORES informa el estado del soporte de ORES por wiki y modelo disponible. If you don't see your wiki listed, or support for the model you'd like to use, you can request support.
Uso de la API
ORES ofrece un servicio de API Restful para revertir dinámicamente clasificando información sobre revisiones. ver https://ores.wikimedia.org para más información sobre cómo para utilizar la API.
Si está consultando al servicio sobre una gran cantidad de revisiones, se recomienda agrupar no más de 50 revisiones dentro de una solicitud determinada, como se describe a continuación. Es aceptable usar hasta 4 solicitudes paralelas. No exceda estos límites o el ORES puede volverse inestable. Para un número aún mayor de consultas, puedes ejecutar ORES localmente
Consulta de ejemplo: http://ores.wikimedia.org/v3/scores/enwiki/?models=draftquality|wp10&revids=34854345|485104318
{
"enwiki": {
"models": {
"draftquality": {
"version": "0.0.1"
},
"wp10": {
"version": "0.5.0"
}
},
"scores": {
"34854345": {
"draftquality": {
"score": {
"prediction": "OK",
"probability": {
"OK": 0.7013632376824356,
"attack": 0.0033607229172158775,
"spam": 0.2176404529599271,
"vandalism": 0.07763558644042126
}
}
},
"wp10": {
"score": {
"prediction": "FA",
"probability": {
"B": 0.22222314275400137,
"C": 0.028102719464462304,
"FA": 0.7214649122864883,
"GA": 0.008833476344463836,
"Start": 0.017699431000825352,
"Stub": 0.0016763181497590444
}
}
}
},
"485104318": {
"draftquality": {
"score": {
"prediction": "OK",
"probability": {
"OK": 0.9870402772858909,
"attack": 0.0006854267347843173,
"spam": 0.010405615745053554,
"vandalism": 0.0018686802342713132
}
}
},
"wp10": {
"score": {
"prediction": "Stub",
"probability": {
"B": 0.02035853144725939,
"C": 0.021257471714087376,
"FA": 0.0018133076388221472,
"GA": 0.003447287158958823,
"Start": 0.1470443252839051,
"Stub": 0.8060790767569672
}
}
}
}
}
}
}
|
|---|
|
Result |
Example query: https://ores.wikimedia.org/v3/scores/wikidatawiki/421063984/damaging
{
"wikidatawiki": {
"models": {
"damaging": {
"version": "0.3.0"
}
},
"scores": {
"421063984": {
"damaging": {
"score": {
"prediction": false,
"probability": {
"false": 0.9947809563336424,
"true": 0.005219043666357669
}
}
}
}
}
}
}
|
|---|
|
Result |
EventStream usage
The ORES scores are also provided as an EventStream at https://stream.wikimedia.org/v2/stream/revision-score
Local usage
To run ORES locally you can install the ORES Python package by:
pip install ores # needs to be python3, incompatible with python2
Then you should be able to run it through:
echo -e '{"rev_id": 456789}\n{"rev_id": 3242342}' | ores score_revisions https://ores.wikimedia.org (your user-agent string goes here) enwiki damaging
You should see output of
017-11-22 16:23:53,000 INFO:ores.utilities.score_revisions -- Reading input from <stdin>
2017-11-22 16:23:53,000 INFO:ores.utilities.score_revisions -- Writing output to from <stdout>
{"score": {"damaging": {"score": {"prediction": false, "probability": {"false": 0.9889349126544834, "true": 0.011065087345516589}}}}, "rev_id": 456789}
{"score": {"damaging": {"score": {"prediction": false, "probability": {"false": 0.9830812038318183, "true": 0.016918796168181708}}}}, "rev_id": 3242342}
|
|---|
|
Result |