秦初置36郡，其中没有庐江郡。庐江郡是在后来分九江郡置。秦后期郡数超过36个已成史学界的共识。已知秦郡名称达到48个（随着田野考古发现，非常可能还有增多），但这48个郡可能不是同一时期的行政区划，其中有些可能存在此废彼兴的承继关系，具体管辖地域或有不同。

  汉初承秦制。《前汉书·帝纪第一》：高祖五年秋七月（《前汉书·列传第四》则曰四年秋七月），立黥布为淮南王。淮南国的辖区是原秦朝的九江郡、庐江郡、衡山郡、豫章郡。后来淮南王英布反。平定后，改立高祖少子刘长为淮南王。文帝六年十一月，淮南王刘长谋反。平定后，将城阳王刘喜调为淮南王。文帝十六年，又将淮南王刘喜重新调为城阳王，并将淮南国一分为三，封给刘长的三个儿子：阜陵侯刘安为淮南王，安阳侯刘勃为衡山王，阳周侯刘赐为庐江王。刘长另一个儿子东城侯刘良此前已死且无后。其中庐江国的辖区兼有庐江郡、豫章郡。景帝四年（-153年），衡山王刘勃调为济北王，庐江王刘赐调为衡山王，撤消庐江国，恢复庐江郡和豫章郡。武帝元狩二年（-121年），废江南庐江郡，以其地分属豫章郡和鄣郡，秦置庐江郡到此为止，而以江北衡山郡东部及九江郡南部置新庐江郡。

   秦置庐江郡境内有庐江，郡因江名。谭其骧先生在《秦郡界址考》中这样写道：“今青弋江于《汉志》曰庐江，江在汉初庐江郡界内，故郡以水氏，而庐江者，九江之分郡也。”后来在江北所置的庐江郡，虽然保存了郡名，但境内实际没有庐江，所以今天的庐江县境内是没有庐江的。庐江后来归入了丹阳郡。换而言之，丹阳郡的一部分旧属秦置庐江郡。而丹阳郡是武帝元封二年（-109年）以鄣郡改置。

  在《晋中兴书》今存辑本中“庐江何录”记载的第一人是何比干，但没有记载是庐江郡哪里人。“何比干，字长卿，武帝时为丹阳都尉。”关于何比干更早的记载见于《后汉书·列传第三十三》：“何敞，字文高，扶风平陵人也。其先家于汝阴。六世祖比干，学《尚书》于晁错，武帝时为廷尉正，与张汤同时。汤持法深而比干务仁恕，数与汤争，虽不能尽得，然所济活者以千数。后迁丹阳都尉，因徙居平陵。”又见该传李贤注引《何氏家传》云：“六世祖父比干，字少卿，经明行修，兼通法律。为汝阴县狱吏决曹掾，平活数千人。后为丹阳都尉，狱无冤囚，淮汝号曰‘何公’。征和三年三月辛亥，天大阴雨，比干在家，日中梦贵客车骑满门，觉以语妻。语未已，而门有老妪可八十余，头白，求寄避雨，雨甚而衣履不沾渍。雨止，送出门，乃谓比干曰：‘公有阴德，今天锡君策，以广公之子孙。’因出怀中符策，状如简，长九寸，凡九百九十枚，以授比干，子孙佩印绶者当如此算。比干年五十八，有六男，又生三子。本始元年，自汝阴徙平陵，代为名族。”

   在《何氏家传》中有两个时间的记述：1、“征和三年”（-90年）；2、“本始元年”，（-73年）。公元前90年，何比干是58岁，倒推可知，出生于公元前147年，即汉景帝刘启中元三年。平陵是昭帝的陵墓，置平陵县当在始元元年（-86年）以后。公元前73年，依据《三辅决录》得知何比干在八个儿子的伴随下迁往平陵，在原居地汝阴只留下一个儿子。汝阴，即今安徽省阜阳市。平陵，即今陕西省咸阳市西北。

  史学家通常认为何比干是汝阴人，但汝阴既不属于江北的庐江郡，更不属于江南的庐江郡。为什么《晋中兴书·庐江何录》记入何比干呢？如果《晋中兴书》今存辑本没有辑错，自然就是《晋中兴书》原书的内容。如果《晋中兴书》也没有记错，那么，汝阴可能是何比干的籍，而何比干的贯当是庐江郡，但未知是江北的庐江郡还是江南的庐江郡。另一种可能是何比干担任的丹阳都尉，就是公元前109年以鄣郡改置的丹阳郡都尉，居住在丹阳郡旧属秦置庐江郡的那部分区域中，因此而归入庐江郡何氏。问题是丹阳郡远离平陵，不可能“后迁丹阳都尉，因徙居平陵”。只有丹水以北的古丹阳才近平陵，但古丹阳非郡，不可能设都尉之职。笔者认为：何比干先是汝阴县狱吏决曹掾，在武帝时是廷尉正，后迁丹阳郡都尉，再后调任丹水以北古丹阳地区的官职（很可能是扶风郡都尉），才迁徙平陵，因混淆了两个丹阳，且很可能还是都尉之职，而导致《后汉书》漏记何比干在扶风郡的具体官职。而古丹阳地从来都不属于庐江郡。《前汉书·帝纪第八》：“本始元年春正月，募郡国吏、民訾百万以上徙平陵。遣使者持节诏郡国二千石谨牧养民而风德化。”作为二千石的丹阳郡都尉何比干就是因此应诏迁徙平陵的。

   《晋中兴书·庐江何录》余下所记都是庐江灊人何准家族的成员，已经是晋朝人物。暂时没有发现何准是何比干后裔的存世史籍确证，而何准的先祖可以上溯到东汉末的何他，但缺乏何他的籍贯记载。何他的儿子何祯（或作何桢）则有明确的记载：庐江灊人。庐江灊是今安徽省六安市霍山县东北，地属西汉江北的庐江郡。

   何比干之后、何他之前出现在庐江郡的是何寿的兄子（即侄子）。《前汉书·列传第五十六》：“初，武为郡吏时，事太守何寿。寿知武有宰相器，以其同姓故厚之。后寿为大司农，其兄子为庐江长史。时，武奏事在邸，寿兄子适在长安，寿为具召武弟显及故人杨覆众等，酒酣，见其兄子，曰：‘此子扬州长史，材能驽下，未尝省见。’”在扬州刺史部辖下的庐江郡担任长史之职，实际不能确定就是庐江郡人，更不能因此而推定庐江郡长史之叔何寿就是庐江郡人，但史学家通常认为何寿是庐江郡人，或是根据《庐江何录》与《东观记》作出的推定。《后汉书·列传第三十三》李贤注引《东观记》曰：“何脩生成，为汉胶东相；成生果，为太中大夫；果生比干，为丹阳都尉；比干生寿，蜀郡太守；寿生显，京辅都尉；显生鄢，光禄大夫；鄢生宠，济南都尉；宠生敞。八世也。”而何寿与何武的生疏，可以证明何武的亲弟弟何显，与何寿的儿子何显不是同一个人，否则，何武也是何寿的儿子，父子关系仅仅记载成“同姓”关系，亲疏之别相差也太大了。又通过《前汉书·帝纪第六》的记载可知：刺史部十三州是元封六年（-105）始置。其时，江南的庐江郡早已被废。虽然庐江郡长史确实生活在江北的庐江郡，但还是不能等于籍贯就在于此。

   何比干籍贯之谜是关键，若要成功破解，必须找到能够排他的确证。