ר' יוחנן ז"ל פנה אל סף הערבה - אל העיירה רחמסטריבקה, עיירה יהודית קטנטונת מוקפת כפרי גויים ושדות נרחבים ירוקים. יהודי הערבה שונים היו במידת מה משאר יהודי אוקראינה. פשוטים יותר היו, קרובים יותר אל האדמה, וחלק ניכר מהם אף עסקו בעבודת אדמה. ישרי-גוו וישרי-מעש היו, ותמימים היו במעשיהם יותר מאחיהם, אשר בחבל היערות שבפלך קיוב ופודוליה.
ובית רחמסטריבקה אף הוא נהג בדרך זו. אמרו על ר' יוחנן ז"ל, שהתום והעניוות הם שני היסודות שעליהם הושתתה דרכו בחסידות. חן של פשטות וצניעות אצילה היתה שורה על חסידות רחמסטריבקה גם בימי יורשיו של ר' יוחנן ז"ל.
ובעניוות מיוחדת, עניוות לא מעושה ולא מכוונת כלל הצטיין האדמו"ר ר' דוד ז"ל, שהוא היה האחרון של אותו "החוט המשולש", חוטי הזהב היקרים, שהתחילה להשתזר ברקמה הצבעונית של חיי ירושלים מלפני כרבע יובל שנים.
בשנת 1926 הגיעו שלושת אבות רחמסטריבקה, הסבא יקירא ר' נחומצ'ה, ושני בניו, שאף הם היו עטורי שיבה. הצעיר שבאותה חבורה קדושה היה ר' דוד.
אף בירושלים המשיכו את דרך התום והצניעות, של חסידות רחמסטריבקה. והם הפנו את עצמם אל הצד, כדי להיות רחוקים מהמחלוקת והתככים השוררים בבירה, ולדאבון ליבם של כל שוחרי ציון ואוהביה. הם בחרו להם את מקום מושבם בשכונת מוסררה, שהיתה אז על סף הישוב היהודי. ביתם, למרות עמידתו בקצה, הפך להיות מרכז חשוב בתוך העיר ירושלים. בו ישן וחדש נפגשו. שם נפגשו יחד עסקני ירושלים מזרחי חשובים עם קנאים קיצוניים מהישוב הירושלמי הישן. יהודים ממעמדות שונים ומזרמים שונים נועדו שם. קסם רב היה לאותו בית, שמשך אליו אנשים מכל הסוגים. קסם זה בא לו מתוך הפסיפס הנהדר של שלושת אבני החן, שהיו משובצים בבית, וכל אבן הצטיינה בסגולותיה המיוחדות.
הצעיר של השלישיה היקרה, רב דוד ז"ל, היה בעצם למדן גדול והיה וודאי מצליח מאד בתור מגיד שעורים באחת הישיבות הגדולות, אלא שהחסידות הפנתה אותו לאפיק אחר.
רק במשך תקופה קצרה בימי חייו היה מגיד שעור. היה זה לאחר המהפכה הבולשבית ברוסיה והפרעות בעיירות אוקראינה, שפרצו בעקבותיה. הרבה עיירות יהודיות נהרסו בזמן ההוא, ובכללן גם העיירה רחמסטריבקה. רוב יהודי העיירה נמלטו מחמת המציק, וביניהן גם משפחת האדמו"ר. אלה האחרונים נמלטו אל מרכז הערבה - אל העיר ניקולייב הגדולה.
והיה מי שהציע שר' דוד יגיד שעור בגמרא ותוספות. בתחילה סרב מחמת ענוותנותו, אך ההפצרות רבו והיה מוכרח להענות להן. במשך הזמן נודע דבר שעורו ברבים והיו מתכנסים אליו למדנים מצויינים. שעור זה נהפך לנקודת מוקד של תורה בעיר ניקולייב. השיעור נאמר מתוך עמקות רבה ובמיוחד הפליא השכל הישר שלו וההסבר הקולע והמבהיר.
ואם שליח צבור בתורה סרב להיות, הרי את שליחות הציבור בתפילה לא הניח. בקול גבוה ויפה ניחן, ובעל חוש זמרה מפותח היה. בעברו לפני התיבה היה גורם להתעוררות ולהתרוממות הנפש. מוספיו של ר' דוד בימים הנוראים היו "שם דבר" בקהל הירושלמי. רבים באו להתפלל בבית הכנסת של רחמסטריבקה בראש השנה וביום הכיפורים, רק כדי לשמוע את תפילתו הזכה והנעימה של ר' דוד.
ואף בשנה האחרונה, כשהיה כבר תשוש מחמת זקנה והמחלה שתקפה אותו, לא רצה קהל חסידיו לותר על תפילתו והם ביקשוהו שיעבור לפני התיבה. ור' דוד נשמע להם, על אף האסור של הרופא. הוא ירד מן המיטה, התחזק ועבר לפני התיבה, וקולו איתו כבשנים שעברו. אך מיד לאחר התפילה שוב נפל על משכבו והיה חלוש מאוד.
הוא חלה בתקופה שירושלים היתה נתונה במצור. צרות ישראל ומצוקת ציון הציקתהו. פגזי הלגיון שנפלו על בתי ישראל, לא פסחו על ביתו. פגז נפל לתוך החדר שישן בו ובדרך נס ניצל. בימי ההפוגה הציעו לו לצאת את העיר ולעבור לתל אביב, אך הוא התנגד לכך בכל תוקף. הוא אהב את ירושלים בכל נפשו ובכל מאודו ולא רצה להנתק ממנה בימי עניה. הוא אהב לראות את ירושלים נבנית והולכת. כל בנין חדש שהוקם בה גרם לו הנאה מרובה, כאילו היה זה בנינו הוא. הוא אהב לסייר בבנינים החדשים כשהם עטופים עדיין בפיגומיהם, היה משוחח עם הפועלים הבונים ושמח על כל חדוש ושכלול טכני.
כל יום, לאחר תפילת שחרית, נהג לטייל ברחובות העיר.
בעל צורה היה ומעורר את תשומת לבם של העוברים ושבים. רבים הכירוהו, והיו שנתלוו לו בשעת טיוליו ונכנסו איתו בשיחה. כי בעל שיחה יפה היה, והיה מרבה לספר ספורי חסידים ומעשיות מדורות שעבדו.
וכאשר היו פונים אליו באיזו שאלה או עצה, היה כרגיל מקדים להביע את דעתו בספור "מעשה שהיה", ואף בשיחותיו היה ניכר כשרון ההסבר שלו. בהרחבה ובצורה פלסטית היה מתאר את נושאי ספוריו, ונראים היו הדברים, כאילו הם מתרחשים לנגד עיניך.
בעל נפש יפה ובריאה היה ששכנה בגוף יפה ובריא. כל ימיו כמעט היה בקו הבריאות ולא ידע חולי. ולבסוף כאשר חלה דכאה אותו מחלתו מאוד, כי לא רגיל היה בכך.
במשך שנתיים נאבקו אראלים עם מצוקים וגברו העליונים על התחתונים ונשמתו של ר' דוד ז"ל עלתה לגנזי מרומים