رحل البيروني عن مسقط رأسه وهو في العشرين من عمره، حيث ظهرت عبقريته في علوم كثيرة، وتفتحت على مختلف فروع العلم. وعندما سمت مكانته العلمية، وارتفعت منزلته الأدبية، بدأت تتنافس عليه العروش والقصور. فتبناه أولا بناة الحكمة والعلم من بني سامان ببخارى ، حيث ذاع صيته، وقدرت مكانته العلمية والأدبية عندهم، وتوثقت صلته بهم. وهناك تعرف على الشيخ الرئيس ابن سينا الذي زامله قرابة عشرين عاما. فانتظما معا في المذاكرة والمناظرة، وتبادل الآراء والرسائل، وعلت مكانتهما عند الأمير نوح بن منصور الساماني، الذي ازدانت مكتبته بنفائس وذخائر مؤلفاتهما.
وفي عام 388هـ / 998 م. تألق نجم الأمير الأديب الحكيم قابوس بن وشمكير أمير جرجان الملقب بشمس المعالي، حيث أخذ ينافس آل سامان على جذب هذين النجمين اللذين كانا يضيئان قصور آل سامان ببخارى. فأخذ الأمير شمس المعالي يطلب من أبي الريحان الانتقال إليه ، لكنه رفض وفاءًا لآل سامان الذين كان ملكهم يومئذ يضطرب تحت الفتن والدسائس الداخلية والحروب الخارجية مع ملوك كاشغر في الشرق، وملوك غزنة في الغرب.
وعندما سقط ملك السامانيين خرج أبو الريحان مستصحبا معه ابن سينا إلى جرجان تلبية لرغبة أميرها شمس المعالي الذي أحسن ضيافتهما، وطابت نفسهما بالإقامة في قصره ، حيث كان يهتم بجهابذة العلم وعباقرة الحكمة وعمالقة الأدب. وفي هذا القصر كتب البيروني كتابه الآثار الباقية من القرون الخالية وأهداه إلى شمس المعالي.
وفي جرجان قابل البيروني أيضا أستاذه في الطب أبا سهل عيسى. وظلا معا حتى قامت الثورة العسكرية التي أطاحت بعرش شمس المعالي وأتت على حياته فخرج البيروني راجعا إلى وطنه خوارزم. وهناك استقر في مدينة جرجانية أصبحت فيما بعد ع اصمة خوارزم. وهناك اشتغل البيروني في مجمع العلوم الذي أسسه أمير خوارزم مأمون بن مأمون. وفي هذا المجمع قابل البيروني العالم مسكويه ، وانضم إليه لاحقا زميل رحلته ابن سينا.
وفي خوارزم أقام البيروني سبع سنوات في خدمة الأمير مأمون، حيث أصبحت له عند الأمير مكانة كبيرة، وقدرًا عظيما، إذ عرف الأمير مكانته من العلم، فاتخذه مستشارا له، وأسكنه معه في قصره، وكان يبدي له مظاهر الاحترام والتقدير.
وفي عام 407هـ / 1016 م. قام بعض جنود الأمير مأمون بثورة ضده وقتلوه، مما أدى إلى دخول صهره محمود بن سبكتكين الغزنوي خوارزم للانتقام من القتلة، وضم البيروني إلى حاشيته، وانتقل معه إلى بلده غزنة.
لازم البيروني السلطان محمود الغزنوي في كل رحلاته وغزواته. ومن خلال هذه الرحلات دخل البيروني الهند مع السلطان محمود في غزواته لهذه البلاد والتي بلغت سبع عشرة غزوة في المنطقة الشمالية الغربية من الهند، واستمرت حتى سنة 414 هـ / 1024 م. ولقد صاحب البيروني السلطان الغزنوي ثلاث عشرة مرة، مما أتاح له أن يحيط بعلوم الهند وتعلم من لغاتها السنسكريتية، إلى جانب إجادته العربية، والفارسية، واليونانية، والسريانية، فاستطاع أن يتوصل إلى المراجع الرئيسية. وهو ما كان ما يريده البيروني.
ولكن الأمور لم تساعد البيروني كثيرا، إذ لم يكن السلطان محمود الغزنوي من المهتمين بالعلم كثيرا، لذا كان عديم الاهتمام بأحاديث البيروني ومحاضراته. ولحسن حظه أن هذا الأمر لم يدم كثيرا، إذ ما لبث أن اعتلى عرش البلاد أكبر أولاد السلطان وهو مسعود الغزنوي وكان ذا رغبة مشتعلة، وبصيرة نافذة لتقبل العلوم ودراسة أسرارها. فأعطى البيروني المكانة اللائقة وقدم له ما يحتاجه من معونة أثناء بقائه في الهند. وعندما رجع البيروني من الهند ليستقر في قصر الأمير مسعود، أهدى له كتابه الشهير القانون المسعودي في الهيئة والنجوم.
ولما حمل البيروني هذه الهدية إلى السلطان مسعود، أراد السلطان أن يكافئه على هذه الهدية الثمينة، فأرسل له ثلاثة جمال محملة من نقود الفضة ، فردها أبو الريحان البيروني قائلا: إنه إنما يخدم العلم للعلم لا للمال. كما ألف البيروني كتابا آخر وهو الدستور وأهداه إلى شقي ق الأمير مودود بن محمود الغزنوي. ولقد بقي البيروني في غزنة، ولم يغادرها منقطعا إلى الدرس والبحث والعلم والتأليف حيث كتب معظم مؤلفاته الشهيرة.
ولقد كان البيروني مجتهدا في البحث لدرجة أن أحد أصدقائه كان يزوره وهو مريض جدا ، فسأله البيروني عن موضوع سبق أن ناقشه فيه. فقال له صديقه: أفي هذه الحالة؟ فرد البيروني: يا هذا أودع الدنيا وأنا عالم بهذه المسألة، ألا يكون خيرا من أن أتركها وأنا جاهل بها. فدار النقاش بينهما حتى اقتنع البيروني ثم خرج صديقه، وفي الطريق سمع عن وفاة البيروني. فكانت وفاته عام 440هـ / 1048 م عن عمر يناهز الثمانين.
وتعود شهرة البيروني الحقيقية إلى مؤلفاته الغزيرة التي تظهر علمه الوافر ونبوغه الفكري بالإضافة إلى انتمائه الديني الواضح في كل كتابته التي يزينها دائما بآيات القرآن الكريم. ويظهر انتماؤه إلى الإسلام ولغة القرآن بقوله في مقدمة كتابه الصيدنة في الطب : "ديننا والدولة