08:37 Jan 25, 2011 |
Japanese to English translations [PRO] Tech/Engineering - IT (Information Technology) / Programming | |||||||
---|---|---|---|---|---|---|---|
|
| ||||||
| Selected response from: Joyce A Thailand Local time: 12:13 | ||||||
Grading comment
|
Summary of answers provided | ||||
---|---|---|---|---|
4 | cancelling and missing of digits |
| ||
3 | integer underflow / integer overflow |
|
Summary of reference entries provided | |||
---|---|---|---|
FYI |
|
cancelling and missing of digits Explanation: See: http://www.google.co.th/url?sa=t&source=web&cd=1&ved=0CBcQFj... http://www.google.co.th/url?sa=t&source=web&cd=1&ved=0CBoQFj... |
| |
Login to enter a peer comment (or grade) |
integer underflow / integer overflow Explanation: http://e-words.jp/w/E6A181E38182E381B5E3828C.html 桁あふれ 【オーバーフロー】 分野 : プログラミング ▼ 関連用語 コンピュータが数値演算を行った結果が、扱える数値の最大値を超えること。 一つの数値を表現するために割り当てられた記憶容量は決まっているため、扱える数値には上限がある。演算結果がこの上限を超えるのが桁あふれである。例えば、8ビットの符号なし整数は、0から255までの整数を扱うことができるが、ある演算を行った結果が256以上になったら、8ビット符号なし整数の枠内では扱うことができないため、桁あふれとなる。 http://ufcpp.net/study/csharp/sp_checked.html#overflow オーバーフロー 「組込み型」 で説明したとおり、 コンピュータの内部で扱える値の範囲は限られています。 そのため、計算を行っている途中で計算結果がこの範囲を超えてしまうことがあり、 このような状況をオーバーフロー(overflow)と言います。 計算の途中でオーバーフローが起こると、計算結果が大幅に狂うことになります。 例えば、以下のようなプログラムを実行すると、 「正の数同士を足し合わせているのに結果が負の数になる」という症状を引き起こします http://en.wikipedia.org/wiki/Integer_overflow Integer overflow From Wikipedia, the free encyclopedia Odometer rollover, a mechanical form of integer overflow. All digits are set to the maximum 9, and adding 1 causes a cascade of carry-over additions setting all digits to 0 but there is no higher digit to change to a 1, so the counter resets to zero. In computer programming, an integer overflow occurs when an arithmetic operation attempts to create a numeric value that is larger than can be represented within the available storage space. For instance, adding 1 to the largest value that can be represented constitutes an integer overflow. The most common result in these cases is for the least significant representable bits of the result to be stored (the result is said to wrap). On some processors like GPUs and DSPs, the result saturates; that is, once the maximum value is reached, attempts to make it larger simply return the maximum result. http://e-words.jp/w/E6A181E890BDE381A1.html 桁落ち 読み : けたおち 分野 : プログラミング ▼ 関連用語 浮動小数点演算で、計算結果が0に極端に近くなる加減算を行ったときに、有効数字の桁数が極端に少なくなる現象。 例えば、「1.23456789x102-1.23456780x102」のような計算を行うと、計算結果は「9x10-6」となり、有効数字の桁数は9桁から一気に1桁に減少してしまう。 Please see this website that refers to桁落ち As underflow: http://abilify.web.fc2.com/ComputerScienceBasic/Error.htm http://weblogs.asp.net/dvravikanth/archive/2008/03/10/intege... Integer overflow & underflow revisited -------------------------------------------------- Note added at 1 hr (2011-01-25 09:39:17 GMT) -------------------------------------------------- Here's a website about underflow/overflow errors: http://www.dfanning.com/math_tips/underflow.html Underflow/Overflow Errors QUESTION: I keep getting floating underflow/overflow errors when I run my programs, but the math results seem to be correct. Can these warnings be ignored or do they mean I'm doing something wrong? If they are nonsense, can I turn the darn things off? |
| |
Grading comment
| ||
Login to enter a peer comment (or grade) |
2 mins |
Reference: FYI Reference information: 桁落ち 読み方:けたおち 【英】cancellation of significant digits 桁落ちとは、浮動小数点数の計算において、絶対値が近い数値同士の減算をすると有効桁数が小さくなってしまうことである。 例えば、有効桁数4桁の0.1234と0.1233の減算結果は0.0001となり有効数字が1桁になってしまう。これは固定小数点では発生しない。 有効桁数が小さい場合、計算を繰り返すと誤差が蓄積され、時として大きな誤差となることがある。このように、計算途中の桁落ちの発生を考慮しないと大きな問題を引き起こす可能性がある。 桁落ちを回避するためには、浮動小数点を使う場合では計算の順序を変更したり、計算式の工夫により似たような数値同士の減算を回避する方法などがある。 http://www.sophia-it.com/content/桁落ち |
| |
Login to enter a peer comment (or grade) |
Login or register (free and only takes a few minutes) to participate in this question.
You will also have access to many other tools and opportunities designed for those who have language-related jobs (or are passionate about them). Participation is free and the site has a strict confidentiality policy.