Σε μια μεγάλη λεκάνη ρίχνουμε το αλεύρι, το αλάτι, το ελαιόλαδο, τη μαγιά και το γιαούρτι. Ανακατεύουμε λίγο με το χέρι και προσθέτουμε σιγά-σιγά το νερό ζυμώνοντας.
Ζυμώνουμε πολύ καλά, για 10' περίπου, μέχρι να σχηματιστεί μια εύπλαστη και αφράτη ζύμη που δεν κολλάει στα χέρια.
Μεταφέρουμε τη ζύμη σε λαδωμένο μπολ, τη σκεπάζουμε και την αφήνουμε σε ζεστό μέρος για 1 ώρα περίπου, μέχρι να φουσκώσει.
Στη συνέχεια την πλάθουμε σε μπαλάκια, τα οποία τοποθετούμε σε φόρμα σιλικόνης με ειδικές θήκες για μάφινς. Εναλλακτικά, μπορούμε απλά να τοποθετήσουμε τα ψωμάκια σε ένα μεγάλο ταψί το οποίο έχουμε στρώσει με λαδόκολλα.
Με το δάχτυλό μας τα πιέζουμε λίγο στο κέντρο, ούτως ώστε να σχηματιστεί μια μικρή λακκούβα κι εκεί μέσα τοποθετούμε μια μικρή ποσότητα φέτας.
Πασπαλίζουμε την επιφάνειά τους με ρίγανη και ψήνουμε τα ψωμάκια σε προθερμασμένο φούρνο στους 180 βαθμούς, για 35-40' μέχρι να ροδίσουν.