<div dir="ltr"><div><br></div><div>Hey all, if you are not watching <a href="https://www.mediawiki.org/wiki/Parsing/Get_involved">https://www.mediawiki.org/wiki/Parsing/Get_involved</a> (and you should!),</div><div>here's an update that Subbu wanted to share with all of us about the progress on the current initiative to fix wikitext patterns that behave differently with RemexHTML.</div><div>Some wikis have really taken action, so that's good!, but some big communities (notably enwp) are really behind...</div><div>As a reminder, the numbers you'll see in some dashboards do <i>not</i> mean you need to fix millions of pages: most of the times you'll fix one template and most if not all of them will be gone.</div><div>Also: if you want to support the communities in figuring out what's to be done, note that  <a href="https://www.mediawiki.org/wiki/Parsing/Replacing_Tidy/FAQ#What_will_editors_need_to_do.3F">https://www.mediawiki.org/wiki/Parsing/Replacing_Tidy/FAQ#What_will_editors_need_to_do.3F</a> is marked for translation, but you could probably focus just on section 5 (the one I linked).</div><div>Finally, the team is always, always available for questions and clarifications. Just leave a message on the talk for the FAQ page ;)</div><div><br></div><div>Best,</div><div>Elitre</div><div><br></div><div class="gmail_quote"><div bgcolor="#FFFFFF"><div class="gmail-m_-4296290256203184771moz-forward-container">
      -------- Forwarded Message --------
      <table class="gmail-m_-4296290256203184771moz-email-headers-table" border="0" cellspacing="0" cellpadding="0">
        <tbody>
          <tr>
            <th valign="BASELINE" align="RIGHT" nowrap>Subject:
            </th>
            <td>Followup (Re: Tidy will be replaced by RemexHTML on
              Wikimedia wikis latest by June 2018)</td>
          </tr>
          <tr>
            <th valign="BASELINE" align="RIGHT" nowrap>Date: </th>
            <td>Thu, 10 Aug 2017 14:42:31 -0400</td>
          </tr>
          <tr>
            <th valign="BASELINE" align="RIGHT" nowrap>From: </th>
            <td>Subramanya Sastry <a class="gmail-m_-4296290256203184771moz-txt-link-rfc2396E" href="mailto:ssastry@wikimedia.org" target="_blank"><ssastry@wikimedia.org></a></td>
          </tr>
          <tr>
            <th valign="BASELINE" align="RIGHT" nowrap>To: </th>
            <td>Wikimedia developers
              <a class="gmail-m_-4296290256203184771moz-txt-link-rfc2396E" href="mailto:wikitech-l@lists.wikimedia.org" target="_blank"><wikitech-l@lists.wikimedia.<wbr>org></a></td>
          </tr>
        </tbody>
      </table>
      <br>
      <br>
      <pre>On 07/06/2017 08:02 AM, Subramanya Sastry wrote:
>
> TL;DR
> -----
> The Parsing team wants to replace Tidy with a RemexHTML-based solution on the
> Wikimedia cluster by June 2018. This will require editors to fix pages and
> templates to address wikitext patterns that behave differently with
> RemexHTML.  Please see 'What editors will need to do' section on the Tidy
> replacement FAQ [1].
>
......
>
> 9. Monitoring progress
> ----------------------
> In order to monitor progress, we plan to do a weekly (or some such periodic
> frequency) test run that compares the rendering of pages with Tidy and with
> RemexHTML on a large sample of pages (in the 50K range) from a large subset
> of Wikimedia wikis (~50 or so).  This will give us a pulse of how fixups are
> going, and when we might be able to flip the switch on different wikis.

I wanted to post some followups on this.

1. We have a revived dashboard that tracks linter error counts on wikis
   for all linter categories.

   See <a class="gmail-m_-4296290256203184771moz-txt-link-freetext" href="https://tools.wmflabs.org/wikitext-deprecation/" target="_blank">https://tools.wmflabs.org/<wbr>wikitext-deprecation/</a>

2. We track the error counts as they change and publish weekly snapshots
   comparing counts to a July 24th baseline (which is when I first
   started collecting stats)

   See <a class="gmail-m_-4296290256203184771moz-txt-link-freetext" href="https://www.mediawiki.org/wiki/Parsing/Replacing_Tidy/Linter/Stats" target="_blank">https://www.mediawiki.org/<wbr>wiki/Parsing/Replacing_Tidy/<wbr>Linter/Stats</a>

3. We also have a pixel-diffs test run (previously called visual diffs)
   that compares page rendering with Tidy and with RemexHTML. The test
   set has 73K pages sampled from 60 wikis. These diffs more accurately
   reflect what kind of rendering differences we can expect to see if
   pages are not fixed.

   See <a class="gmail-m_-4296290256203184771moz-txt-link-freetext" href="http://mw-expt-tests.wmflabs.org/" target="_blank">http://mw-expt-tests.wmflabs.<wbr>org/</a>

4. Based on the runs above, I identified one more high priority linter
   category which is a Tidy whitespace bug and needs to be fixed (expect
   mostly templates, especially navboxes based on what I've seen in the
   test run above). Once the code is reviewed and deployed to the
   cluster, we'll start populating this category.

   See <a class="gmail-m_-4296290256203184771moz-txt-link-freetext" href="https://gerrit.wikimedia.org/r/#/c/371068/" target="_blank">https://gerrit.wikimedia.org/<wbr>r/#/c/371068/</a> and 
<a class="gmail-m_-4296290256203184771moz-txt-link-freetext" href="https://gerrit.wikimedia.org/r/#/c/371071/" target="_blank">https://gerrit.wikimedia.org/<wbr>r/#/c/371071/</a>

Thanks,
Subbu.
</pre>
    </div>
  </div>

</div><br></div>