« 東芝インパルスTNH-3LEとFDK HR-AAULT | トップページ | RTC機能付ATtiny RTCとPITの初期化注意点 »

2025年9月26日 (金)

ATtinyのデータシートに「1/1023」が出現

ArduinoのA/D変換値(10bitなら0~1023)から
入力電圧を求めるときは「1/1024」でっせを
何度も言ってきました。
   トラ技にも書いたし。
ところが・・・
8ピンのAVRマイコン「ATtiny402」のデータシート
を見ていたら「1/1023」になっていたのです。

まずこれがArduino UNO R3のマイコンATmega328Pの
データシートでの記述。
正しく「1/1024」です。
T13_20250926090601

それがATtiny402(202~406まとめての)のデータシート
では「1/1023」と示されているのです。
T11_20250926090601

追跡しきってはいませんが、「アトメル」時代からあるチップは
正しく「1/1024」と。
「マイクロチップ」になってからできたチップが「1/1023」と
なっているような感じかと。

※追記 3・1/2桁電圧計IC(モトローラのMC14433)の資料から
大昔のデータシートを引っ張ってきました。
モトローラの3・1/2桁電圧計IC、BCDでの表示出力が±1999。
  ※関連
   ・1/2桁とは
   ・1/2桁とは 「セグメント説」
基準電圧が2.000Vだと±1.999Vがフルスケール。
0.2000Vだと±フルスケールは1999mVになります。
このあたりの関係、データシートではこのように
表現されています。

14433a
ごくあたりまえですが、このVref=2.000Vで
1.000Vが入力されたら
表示出力は1.000Vになります。
(1.000V ÷ 1.999) × Vref = 1.00050V
ではありません。
  出力桁外になる0.00050VがこのICで
  どういう挙動になるかは別問題。
(1.000V ÷ 2.000) × Vref = 1.000V
がまっとうな計算。
  Vrefがジャスト2.000Vじゃないとき、
  入力電圧に対して何Vが表示されるか
  の検証計算。

|

« 東芝インパルスTNH-3LEとFDK HR-AAULT | トップページ | RTC機能付ATtiny RTCとPITの初期化注意点 »

AVRマイコン」カテゴリの記事

1023 vs 1024」カテゴリの記事

ATtiny」カテゴリの記事

コメント

単なる妄想ですがこれって、昔のチップのバグのような仕様により切りのいい数字だと内部で最上位ビットが抜け落ちて0で除算な誤動作を起こすから、暫定回避として1引いたみたいなどうしようもない理由が始まりの気がします。

投稿: enaka | 2025年9月27日 (土) 23時09分

大昔の3・1.2桁ADC、MC14433のデータシートを使ってあれこれ追記しました。

投稿: 居酒屋ガレージ店主(JH3DBO) | 2025年9月28日 (日) 17時02分

コメントを書く



(ウェブ上には掲載しません)




« 東芝インパルスTNH-3LEとFDK HR-AAULT | トップページ | RTC機能付ATtiny RTCとPITの初期化注意点 »