Kun piirrät useita tieteellisiä tietopisteitä, saatat haluta sovittaa pisteisiisi parhaiten sopivan käyrän ohjelmiston avulla. Käyrä ei kuitenkaan vastaa tarkalleen tietopisteitäsi, ja kun niin ei ole, saatat haluta laskea neliövirheen (RMSE) keskiarvon, jotta voidaan arvioida, missä määrin datapisteesi eroavat käyrästäsi. Kullekin datapisteelle RMSE-kaava laskee erotuksen datapisteen todellisen arvon ja parhaiten sopivan käyrän datapisteen arvon välillä.
Etsi vastaava y-arvo parhaiten sopivasta käyrästä jokaiselle x -arvolle, joka vastaa alkuperäisiä datapisteitä.
Vähennä y: n todellinen arvo parhaiten sopivan käyrän y-arvosta y jokaisesta tietopisteestäsi. Y-arvon todellisen arvon ja parhaiten sopivan käyrän y-arvon välistä erotusta kutsutaan jäännösarvoksi. Neliöitä jokainen jäännös ja summa sitten jäännös.
Jaa Jaa jäännössi summa sinulla olevien tietopisteiden kokonaismäärällä ja ota osamäärän neliöjuuri. Tämä antaa keskimääräisen neliövirheen.