По сабжу ничего не нарыл. Но наткнулся на проект
statJ(statJ written in Java contains methods for performing basic statistical operations that describe a sample or population, including measures of central tendency or location, measures of variability or dispersion., and measures of strength of relationship).
ЗЫ Я конечно понимаю что это не C, но алгоритм можно использовать. Думаю не составит труда переписать пару функций с Jav'ы на C.