質問する

Revision history [back]

click to hide/show revision 1
最初のバージョン

>himajin100000の回答から 多分、内部での計算は全てインチで行い、表示時にcmに変換するのでしょう。 問題は、内部計算毎に小数点3位で四捨五入して小数点2桁にしているのではないのでしょうか。 10cm=3.93700787401575in →3.94in=3.94x2.54=10.008 →10.01 20cm=7.8740157480315in →7.87in=7.87x2.54=19.990 →19.99

せめて内部的には、小数点4桁で四捨五入して小数点3桁で丸める。 cmに変換する最終形態にする時に小数点2桁にまとめるようにすると誤差は生じ難いと思います。 以上の修正は、根本的なことの様で困難な様でもあり、簡単に修正できるようなことでもあり。 少なくとも最終形態が小数点2桁なら、内部計算は小数点3桁以上の数値で行わなければ、誤差は必ず発生しますので、バクといえばバグです。 全て私の推測なので実際内部での計算が小数点2桁に丸められているのかは分かりません。

>himajin100000の回答から >himajin100000の回答から

多分、内部での計算は全てインチで行い、表示時にcmに変換するのでしょう。 問題は、内部計算毎に小数点3位で四捨五入して小数点2桁にしているのではないのでしょうか。 問題は、内部計算毎に小数点3位で四捨五入して小数点2桁にしているのではないのでしょうか。

10cm=3.93700787401575in →3.94in=3.94x2.54=10.008 →10.01 →10.01

20cm=7.8740157480315in →7.87in=7.87x2.54=19.990 →19.99

せめて内部的には、小数点4桁で四捨五入して小数点3桁で丸める。 cmに変換する最終形態にする時に小数点2桁にまとめるようにすると誤差は生じ難いと思います。 以上の修正は、根本的なことの様で困難な様でもあり、簡単に修正できるようなことでもあり。 少なくとも最終形態が小数点2桁なら、内部計算は小数点3桁以上の数値で行わなければ、誤差は必ず発生しますので、バクといえばバグです。 以上の修正は、根本的なことの様で困難な様でもあり、簡単に修正できるようなことでもあり。

少なくとも最終形態が小数点2桁なら、内部計算は小数点3桁以上の数値で行わなければ、誤差は必ず発生しますので、バクといえばバグです。

全て私の推測なので実際内部での計算が小数点2桁に丸められているのかは分かりません。

>himajin100000の回答から

多分、内部での計算は全てインチで行い、表示時にcmに変換するのでしょう。 問題は、内部計算毎に小数点3位で四捨五入して小数点2桁にしているのではないのでしょうか。

10cm=3.93700787401575in →3.94in=3.94x2.54=10.008 →10.01

20cm=7.8740157480315in →7.87in=7.87x2.54=19.990 →19.99

せめて内部的には、小数点4桁で四捨五入して小数点3桁で丸める。 cmに変換する最終形態にする時に小数点2桁にまとめるようにすると誤差は生じ難いと思います。 以上の修正は、根本的なことの様で困難な様でもあり、簡単に修正できるようなことでもあり。

少なくとも最終形態が小数点2桁なら、内部計算は小数点3桁以上の数値で行わなければ、誤差は必ず発生しますので、バクといえばバグです。

全て私の推測なので実際内部での計算が小数点2桁に丸められているのかは分かりません。

----- 20118/03/26 追加 -------------------------------------

ズレが見られるのはサイドバーのパネルだけでコンテキストメニューから呼び出すダイアログは問題ない

これには、気が付きませんでした。いつもサイドメニューを表示してその中で数値を変更していたものですので、F4を押してのダイアログは使用していませんでした。

普通の人は、サイドバーでもコンテキストメニューでもサイズは同じ数値を表示すると思いますね。 という事は、その内サイドバーの方も修正されるのかもしれませんね。気長に待つか・・・・

>himajin100000の回答から

多分、内部での計算は全てインチで行い、表示時にcmに変換するのでしょう。 問題は、内部計算毎に小数点3位で四捨五入して小数点2桁にしているのではないのでしょうか。

10cm=3.93700787401575in →3.94in=3.94x2.54=10.008 →10.01

20cm=7.8740157480315in →7.87in=7.87x2.54=19.990 →19.99

せめて内部的には、小数点4桁で四捨五入して小数点3桁で丸める。 cmに変換する最終形態にする時に小数点2桁にまとめるようにすると誤差は生じ難いと思います。 以上の修正は、根本的なことの様で困難な様でもあり、簡単に修正できるようなことでもあり。

少なくとも最終形態が小数点2桁なら、内部計算は小数点3桁以上の数値で行わなければ、誤差は必ず発生しますので、バクといえばバグです。

全て私の推測なので実際内部での計算が小数点2桁に丸められているのかは分かりません。

----- 20118/03/26 追加 -------------------------------------------------------------------------- >ズレが見られるのはサイドバーのパネルだけでコンテキストメニューから呼び出すダイアログは問題ない

ズレが見られるのはサイドバーのパネルだけでコンテキストメニューから呼び出すダイアログは問題ない

これには、気が付きませんでした。いつもサイドメニューを表示してその中で数値を変更していたものですので、F4を押してのダイアログは使用していませんでした。

普通の人は、サイドバーでもコンテキストメニューでもサイズは同じ数値を表示すると思いますね。 という事は、その内サイドバーの方も修正されるのかもしれませんね。気長に待つか・・・・

>himajin100000の回答から

多分、内部での計算は全てインチで行い、表示時にcmに変換するのでしょう。 問題は、内部計算毎に小数点3位で四捨五入して小数点2桁にしているのではないのでしょうか。

10cm=3.93700787401575in →3.94in=3.94x2.54=10.008 →10.01

20cm=7.8740157480315in →7.87in=7.87x2.54=19.990 →19.99

せめて内部的には、小数点4桁で四捨五入して小数点3桁で丸める。 cmに変換する最終形態にする時に小数点2桁にまとめるようにすると誤差は生じ難いと思います。 以上の修正は、根本的なことの様で困難な様でもあり、簡単に修正できるようなことでもあり。

少なくとも最終形態が小数点2桁なら、内部計算は小数点3桁以上の数値で行わなければ、誤差は必ず発生しますので、バクといえばバグです。

全て私の推測なので実際内部での計算が小数点2桁に丸められているのかは分かりません。

----- 20118/03/26 追加 ------------------------------------- -------------------------------------

>ズレが見られるのはサイドバーのパネルだけでコンテキストメニューから呼び出すダイアログは問題ない

これには、気が付きませんでした。いつもサイドメニューを表示してその中で数値を変更していたものですので、F4を押してのダイアログは使用していませんでした。

普通の人は、サイドバーでもコンテキストメニューでもサイズは同じ数値を表示すると思いますね。 という事は、その内サイドバーの方も修正されるのかもしれませんね。気長に待つか・・・・