Ruby/Матрицы и векторы: различия между версиями

<source lang="ruby">require 'matrix'

p Matrix[[1, -2, 3], [3, 4, -5], [2, 4, 1]].det #=> -50</source>

 

давала неверный результат (правильный ответ — 62). Как выяснилось позднее, эта проблема связана со спецификой целочисленной арифметики в Ruby (одна вторая в Ruby — нуль). Предположив это, я решил, что проблема легко решится, если я преобразую элементы матрицы к типу чисел с плавающей запятой (классу <code>Float</code>):